رازهایی که نباید به هوش مصنوعی بگویید؛ وقتی گفتوگوها دیگر کاملاً خصوصی نیستند
هوش مصنوعی شاید بتواند بهترین پاسخ را به سؤال شما بدهد، اما نباید آن را بهترین گزینه برای نگهداری رازهای شما دانست.
گروه علم و تکنولوژی چندثانیه آنلاین نوشت:
تا حالا شده چیزی را که نمیتوانید به هیچکس بگویید، در کادر گفتوگوی یک چتبات هوش مصنوعی بنویسید؟ شاید از اختلاف خانوادگی، مشکلات عاطفی، وضعیت مالی، نگرانی درباره شغل، یک تصمیم مهم یا حتی فکری شخصی که ترجیح میدهید اطرافیانتان از آن بیخبر باشند. کافی است چند جمله تایپ کنید و چند ثانیه بعد، پاسخی دریافت کنید که گاهی آنقدر دقیق و همدلانه است که ممکن است فراموش کنید طرف مقابل شما یک انسان نیست؛ یک سامانه هوش مصنوعی است که داده دریافت میکند و در برخی شرایط، این دادهها میتوانند از چیزی که تصور میکنید فراتر بروند.
تصور رایج بسیاری از کاربران این است که گفتوگو با هوش مصنوعی شبیه یک گفتوگوی خصوصی است؛ شما مینویسید، پاسخ میگیرید و پنجره گفتوگو را میبندید. اما پشت این صفحه ساده، سازوکار پیچیدهای برای پردازش، ذخیره، مدیریت و گاهی استفاده از دادهها وجود دارد. همین مسئله باعث شده حریم خصوصی در عصر چتباتها به یکی از جدیترین نگرانیهای دنیای فناوری تبدیل شود؛ بهویژه زمانی که کاربران بدون توجه به ماهیت داده، خصوصیترین بخش زندگی خود را وارد این سامانهها میکنند.
بر اساس گزارشی که واشنگتنپست منتشر کرده، دستکم ۱۲ پرونده قضایی در آمریکا وجود داشته که در آنها متن یا محتوای گفتوگوهای کاربران با چتباتهای هوش مصنوعی در روندهای قضایی مطرح شده است. اهمیت این موضوع در آنجاست که یک مکالمه با هوش مصنوعی، برخلاف تصور بسیاری از کاربران، لزوماً در همان محدودهای که برای آن در نظر گرفته شده باقی نمیماند و در شرایط حقوقی خاص ممکن است اطلاعات ذخیرهشده مورد مطالبه قرار گیرد.
این اتفاق یک هشدار جدی برای کاربرانی است که هوش مصنوعی را به دفترچه خاطرات دیجیتال خود تبدیل کردهاند. هرچه استفاده از این ابزارها بیشتر شده، نوع اطلاعاتی که کاربران در اختیارشان قرار میدهند نیز حساستر شده است. دیگر صحبت فقط درباره پرسیدن یک سؤال علمی یا نوشتن یک متن ساده نیست؛ برخی کاربران درباره رابطه عاطفی، اختلافات خانوادگی، درآمد و بدهی، مشکلات محل کار، تصمیمهای تجاری و مسائل بسیار شخصی خود با چتباتها صحبت میکنند.
نکته نگرانکننده اینجاست که بسیاری از افراد هنگام نوشتن چنین اطلاعاتی، به این موضوع فکر نمیکنند که داده واردشده دقیقاً چه سرنوشتی پیدا میکند. برای کاربر، یک جمله ممکن است صرفاً بخشی از یک گفتوگوی چند دقیقهای باشد؛ اما برای یک سامانه دیجیتال، همان جمله میتواند بخشی از دادهای باشد که تحت سیاستهای مشخصی ذخیره، پردازش یا برای بهبود سرویس مورد استفاده قرار میگیرد.
موضوع آموزش مدلهای هوش مصنوعی نیز در همین نقطه اهمیت پیدا میکند. بسیاری از کاربران ممکن است ندانند سرویس مورد استفادهشان با دادههای مکالمه چه سیاستی دارد، آیا محتوای گفتوگو برای بهبود مدل استفاده میشود یا خیر، چه گزینههایی برای کنترل داده در اختیارشان قرار گرفته و حذف یک مکالمه دقیقاً به چه معناست. به همین دلیل، صرف دیدن گزینه «حذف گفتوگو» نباید باعث شود کاربر تصور کند تمام ردپای دیجیتال اطلاعاتش در هر شرایطی از بین رفته است.
از سوی دیگر، مسئله فقط شرکتهای فناوری نیستند. در صورت شکلگیری یک پرونده حقوقی و وجود الزامات قانونی، دادههای دیجیتال میتوانند به بخشی از فرآیند بررسی پرونده تبدیل شوند. این همان جایی است که یک گفتوگوی ظاهراً خصوصی میتواند وارد فضایی شود که کاربر هنگام نوشتن آن هرگز تصورش را نمیکرده است.
البته این به معنای آن نیست که هر مکالمهای با هوش مصنوعی قرار است در اختیار پلیس، دادگاه یا کارفرما قرار بگیرد. چنین برداشتی اغراقآمیز است. مسئله اصلی این است که کاربران نباید حریم خصوصی خود را با یک فضای گفتوگوی دیجیتال اشتباه بگیرند. میزان دسترسی به اطلاعات، نحوه نگهداری دادهها و امکان ارائه آنها به اشخاص ثالث، به سرویس، تنظیمات حساب و شرایط قانونی هر پرونده بستگی دارد.
با این حال، همین احتمال محدود نیز برای تغییر رفتار کاربران کافی است. همانطور که افراد معمولاً رمز بانکی یا تصویر مدارک هویتی خود را در اختیار هر فرد ناشناسی قرار نمیدهند، بهتر است در استفاده از هوش مصنوعی نیز میان «اطلاعات معمولی» و «اطلاعاتی که در صورت افشا میتواند برای فرد دردسرساز شود» تفاوت قائل شوند.
برای مثال، نوشتن اینکه «یک ایمیل رسمی برایم تنظیم کن» با وارد کردن نام کامل، شماره تماس، اطلاعات مالی، جزئیات یک قرارداد محرمانه یا مشخصات یک پرونده حقوقی کاملاً متفاوت است. در مورد اول، ریسک اطلاعاتی محدودتر است؛ اما در مورد دوم، کاربر عملاً بخش مهمی از دادههای حساس خود را وارد یک سامانه آنلاین کرده است.
این موضوع برای محیطهای کاری نیز اهمیت بیشتری پیدا میکند. کارمندی که برای خلاصه کردن یک گزارش محرمانه یا تحلیل یک قرارداد، متن کامل سند را در یک ابزار هوش مصنوعی عمومی قرار میدهد، ممکن است ناخواسته اطلاعاتی را خارج از چارچوب سازمان منتقل کند. به همین دلیل، بسیاری از سازمانها برای استفاده از ابزارهای هوش مصنوعی، مقررات مشخصی درباره اطلاعات محرمانه، اسناد داخلی و دادههای مشتریان تعیین میکنند.
ماجرا زمانی جدیتر میشود که پای اطلاعات افراد دیگر نیز به میان بیاید. ممکن است کاربر تصور کند اطلاعاتی که وارد چتبات میکند متعلق به خودش است، در حالی که در متن مکالمه نام، شماره تلفن، وضعیت مالی یا سایر جزئیات مربوط به فرد دیگری نیز وجود داشته باشد. در چنین شرایطی، کاربر نهتنها درباره حریم خصوصی خودش، بلکه درباره اطلاعات شخص دیگری نیز تصمیم گرفته است.
رشد سریع هوش مصنوعی باعث شده فناوری با سرعتی بیشتر از قوانین و عادتهای عمومی وارد زندگی روزمره شود. بسیاری از مردم هنوز با همان ذهنیتی که سالها برای جستوجوی اینترنتی یا پیامرسانها داشتند، با چتباتها کار میکنند؛ در حالی که ماهیت گفتوگو با یک مدل زبانی متفاوت است. هوش مصنوعی نهتنها پاسخ میدهد، بلکه کاربران را تشویق میکند اطلاعات بیشتری ارائه کنند تا پاسخ دقیقتری دریافت کنند. همین تعامل طبیعی میتواند مرز احتیاط را برای کاربر کمرنگ کند.
شاید خطرناکترین بخش ماجرا همین احساس امنیت باشد؛ اینکه یک صفحه خالی را باز کنیم، شروع به نوشتن کنیم و چون هیچ انسانی آن سوی صفحه نشسته نیست، تصور کنیم حرفهایمان کاملاً محرمانه است. هوش مصنوعی میتواند لحن دوستانه داشته باشد، با حوصله پاسخ دهد و حتی طوری صحبت کند که احساس کنیم کسی واقعاً به حرفهایمان گوش میدهد، اما این تجربه انسانی نیست و نباید قواعد حریم خصوصی انسانی را به آن تعمیم داد.
کارشناسان امنیت دیجیتال نیز بارها بر یک اصل ساده تأکید کردهاند: اطلاعاتی را که در صورت انتشار آنها دچار مشکل میشوید، بدون بررسی سیاستهای حریم خصوصی یک سرویس در آن وارد نکنید. این قاعده بهویژه درباره اطلاعات بانکی، رمزها، اسناد هویتی، اطلاعات محرمانه شغلی، قراردادها و جزئیات بسیار خصوصی زندگی اهمیت دارد.
در نهایت، مسئله مقابله با هوش مصنوعی یا کنار گذاشتن این فناوری نیست. چتباتها میتوانند ابزارهایی بسیار کاربردی برای آموزش، تحقیق، ترجمه، برنامهریزی، تولید محتوا و حل مسائل روزمره باشند. مسئله این است که کاربر بداند در مقابل دریافت یک پاسخ سریع و هوشمند، چه نوع دادهای را در اختیار یک سرویس قرار میدهد و آیا واقعاً لازم است آن اطلاعات را ارائه کند یا میتوان همان درخواست را بدون افشای جزئیات حساس مطرح کرد.
هوش مصنوعی شاید بتواند بهترین پاسخ را به سؤال شما بدهد، اما نباید آن را بهترین گزینه برای نگهداری رازهای شما دانست. در دنیایی که یک گفتوگوی چند دقیقهای میتواند به مجموعهای از دادههای دیجیتال تبدیل شود، محتاط بودن دیگر یک انتخاب لوکس نیست؛ بخشی از سواد دیجیتال است.
پس دفعه بعد که پیش از نوشتن یک موضوع شخصی، انگشتتان را روی صفحهکلید گذاشتید، یک سؤال ساده از خودتان بپرسید: اگر این جمله روزی از صفحه چت خارج شود و فرد دیگری آن را ببیند، هنوز حاضر به نوشتنش هستم؟ اگر پاسخ «نه» است، شاید بهتر باشد همان جمله را اصلاً وارد چتبات نکنید.