وقتی هوش مصنوعی از پاسخگویی به تأثیرگذاری بر تصمیمهای ما میرسد
سؤال آینده فقط این نیست که «هوش مصنوعی درباره ما چه میداند؟»؛ سؤال مهمتر این است که «با دانستن این اطلاعات، میتواند ما را به چه تصمیمی برساند؟» هرچه گفتوگوهای انسان و ماشین شخصیتر شوند، شفافیت درباره جمعآوری دادهها، هدف سیستم، تبلیغات و میزان تأثیرگذاری آن اهمیت بیشتری پیدا خواهد کرد.
به گزارش گروه علم و تکنولوژی چندثانیه آنلاین: تا حالا شده برای خرید یک محصول، حل یک مشکل شخصی یا حتی تصمیمی مهم از یک چتبات کمک بگیرید و در پایان، بدون اینکه متوجه شوید، نظرتان کمی تغییر کند؟ مسئله دقیقاً از همینجا شروع میشود؛ وقتی هوش مصنوعی از یک ابزار پاسخگو به موجودیتی تبدیل شود که بتواند با شناخت رفتار و علایق شما، نحوه تصمیمگیریتان را تحت تأثیر قرار دهد.
روزنامه ایندیپندنت فارسی در گزارشی تازه به همین نگرانی پرداخته و سناریویی را مطرح کرده است که در آن چتبات میتواند کاربر را بیشتر به ادامه گفتوگو ترغیب کند، دیدگاه او را درباره یک موضوع تغییر دهد یا حتی او را به خرید یک محصول متقاعد کند. این نگرانی در شرایطی مطرح میشود که کاربران روزبهروز بخش بیشتری از زندگی شخصی خود را در گفتوگو با هوش مصنوعی مطرح میکنند.
کاربران ممکن است در یک گفتوگوی معمولی درباره سلامت، وضعیت مالی، شغل، روابط عاطفی، نگرانیها و مشکلات روزمره خود صحبت کنند. مجموعه این اطلاعات میتواند تصویری بسیار دقیق از علایق، نیازها، نقاط حساس و الگوهای رفتاری یک فرد ایجاد کند؛ موضوعی که ارزش تجاری و تبلیغاتی بالایی دارد.
تفاوت مهم چتبات با تبلیغات سنتی در همین نقطه است. یک تبلیغ تلویزیونی یا بنر اینترنتی معمولاً پیام مشخصی را به مخاطب نشان میدهد؛ اما چتبات در یک گفتوگوی چندمرحلهای میتواند پرسش بپرسد، پاسخ کاربر را تحلیل کند و پیام بعدی خود را متناسب با همان فرد تنظیم کند. پژوهشهای جدید نیز نشان دادهاند که مدلهای زبانی بزرگ میتوانند در گفتوگوهای تعاملی توان قابل توجهی برای تغییر نگرش افراد داشته باشند.
از سوی دیگر، ورود تبلیغات به فضای گفتوگوهای هوش مصنوعی میتواند مرز میان «پیشنهاد مفید» و «تبلیغ هدفمند» را باریکتر کند. یک پژوهش منتشرشده در سال ۲۰۲۶ بررسی کرده است که چگونه اهداف تبلیغاتی میتوانند رفتار چتباتها را از نقش سنتی یک دستیار گفتوگویی دور کنند و زمینه تعارض میان منافع کاربر و منافع تجاری را ایجاد کنند.
این نگرانی فقط درباره خرید کالا نیست. اگر یک سیستم بتواند با شناخت دقیق کاربر، پیامهای متناسب با شخصیت و باورهای او تولید کند، همین فناوری میتواند در موضوعات اجتماعی و سیاسی نیز مورد استفاده قرار گیرد. مطالعهای منتشرشده در مجله Science امکان استفاده از هوش مصنوعی مکالمهای برای تأثیرگذاری بر افکار عمومی را بررسی کرده و درباره ظرفیت این فناوری برای تغییر دیدگاههای سیاسی هشدار داده است.
نکته مهمتر این است که تأثیرگذاری لزوماً با یک تبلیغ آشکار اتفاق نمیافتد. ممکن است چتبات ابتدا با پرسیدن چند سؤال ساده، نیاز کاربر را بهتر بشناسد، سپس اطلاعاتی متناسب با همان نیاز ارائه کند و در نهایت گزینهای را جذابتر از گزینههای دیگر نشان دهد. در چنین شرایطی، کاربر ممکن است احساس کند خودش به نتیجه رسیده است، در حالی که نحوه ارائه اطلاعات میتواند در شکلگیری آن تصمیم نقش داشته باشد.
تحقیقات تازه حتی نشان میدهند که شفافیت درباره هدف اقناعی یک چتبات میتواند میزان تأثیرگذاری آن را کاهش دهد. در یک آزمایش با هزار و ۵۰۰ بزرگسال بریتانیایی، افشای صرف اینکه مخاطب با هوش مصنوعی صحبت میکند، اثر قابلتوجهی بر میزان اقناع نداشت؛ اما وقتی هدف اقناعی سیستم نیز بهطور شفاف اعلام شد، میزان تأثیرگذاری تقریباً به نصف کاهش یافت.
در طرف دیگر ماجرا، شرکتهای فناوری نیز در حال ورود جدیتر به بازار تبلیغات مبتنی بر گفتوگو هستند. پژوهشهای سال ۲۰۲۶ نشان میدهند تبلیغات در محیطهای هوش مصنوعی میتواند بهجای نمایش یک بنر جداگانه، در جریان یک مکالمه طبیعی قرار گیرد؛ اتفاقی که از نظر تجاری جذاب است اما پرسشهای جدی درباره شفافیت و استقلال تصمیم کاربر ایجاد میکند.
حتی شکل جدیدتری از تبلیغات نیز در حال ظهور است؛ تبلیغاتی که نه مستقیماً برای انسان، بلکه برای عاملهای هوش مصنوعی طراحی میشوند تا برندها در نتایج و پاسخهای تولیدشده توسط سیستمهای هوش مصنوعی بیشتر دیده شوند. این روند نشان میدهد رقابت تبلیغاتی در حال عبور از موتورهای جستوجو و شبکههای اجتماعی و ورود به عصر «جستوجوی مکالمهای» است.
با این حال، نباید هر پاسخ شخصیسازیشده یا پیشنهاد یک چتبات را بهمعنای «دستکاری» تلقی کرد. شخصیسازی میتواند برای ارائه پاسخ بهتر، پیشنهاد دقیقتر و تجربه کاربری مناسبتر مفید باشد. مسئله اصلی زمانی شکل میگیرد که کاربر نداند یک سیستم صرفاً در حال کمککردن است یا اینکه اهداف تجاری، سیاسی یا رفتاری نیز در نحوه پاسخگویی آن نقش دارند.
در نهایت، سؤال آینده فقط این نیست که «هوش مصنوعی درباره ما چه میداند؟»؛ سؤال مهمتر این است که «با دانستن این اطلاعات، میتواند ما را به چه تصمیمی برساند؟» هرچه گفتوگوهای انسان و ماشین شخصیتر شوند، شفافیت درباره جمعآوری دادهها، هدف سیستم، تبلیغات و میزان تأثیرگذاری آن اهمیت بیشتری پیدا خواهد کرد.
چالش بزرگ عصر هوش مصنوعی شاید همین باشد: روزی که دیگر تشخیص اینکه یک پیشنهاد واقعاً برای کمک به ما ارائه شده یا برای تغییر تصمیم ما طراحی شده، به این سادگی نباشد.