وقتی اعتماد به هوش مصنوعی گران تمام می‌شود؛ خسارت سنگین یک کشاورز

به گزارش گروه اجتماعی چندثانیه آنلاین: هوش مصنوعی قرار بود کار انسان را آسان‌تر کند، اما برای یک کشاورز ۶۷ ساله چینی، اعتماد به توصیه این فناوری به از بین رفتن محصول حدود ۲۵ هکتار زمین منجر شد؛ حادثه‌ای که نشان می‌دهد حتی یک پاسخ به ظاهر دقیق و مطمئن از سوی هوش مصنوعی، می‌تواند در دنیای واقعی خسارتی سنگین به همراه داشته باشد.

این کشاورز در استان آنهویی چین حدود یک سال از یک سامانه هوش مصنوعی برای دریافت مشاوره‌های کشاورزی استفاده می‌کرد. توصیه‌های قبلی سامانه در چند مورد برای او نتیجه خوبی داشت و همین موضوع باعث شد اعتمادش به پاسخ‌های هوش مصنوعی بیشتر شود.

ماجرا زمانی تغییر کرد که علف‌های هرز و آفات، محصول او را تهدید کردند. کشاورز برای مقابله با این مشکل از همان سامانه کمک گرفت و هوش مصنوعی استفاده از چند ماده شیمیایی را پیشنهاد کرد.

او نیز بر اساس این توصیه، مواد پیشنهادی را روی زمین خود استفاده کرد؛ اما تنها یک شب بعد، متوجه شد اتفاقی کاملاً برخلاف انتظارش رخ داده است. بخش بزرگی از محصولات آسیب دیده و بسیاری از بوته‌ها از بین رفته بودند.

بررسی‌های بعدی نشان داد ماده مورد استفاده، برای محصول اصلی مناسب نبوده و در کنار علف‌های هرز، به خود محصول نیز آسیب زده است. وسعت زمین آسیب‌دیده حدود ۱۵۰ مو، معادل نزدیک به ۲۵ هکتار اعلام شده و خسارت مالی نیز حدود ۱۵۰ هزار یوان برآورد شده است.

نکته مهم اینجاست که اشتباه هوش مصنوعی فقط یک «اشتباه اطلاعاتی» نبود؛ این بار یک پاسخ اشتباه مستقیماً وارد دنیای واقعی شد و نتیجه آن، از بین رفتن محصولی بود که کشاورز برای کاشت و نگهداری آن ماه‌ها وقت و هزینه صرف کرده بود.

هوش مصنوعی معمولاً بر اساس اطلاعاتی که در اختیار دارد، پاسخ تولید می‌کند. اما یک مزرعه فقط مجموعه‌ای از اطلاعات نیست. نوع گیاه، مرحله رشد، شرایط آب‌وهوایی، خاک، دوز مصرفی و حتی نحوه ترکیب مواد می‌تواند نتیجه یک سم‌پاشی را تغییر دهد؛ جزئیاتی که نادیده گرفتن هرکدام ممکن است خسارت ایجاد کند.

این اتفاق یک هشدار جدی برای دوره‌ای است که هوش مصنوعی وارد تقریباً تمام بخش‌های زندگی شده است. امروز ممکن است کسی برای انتخاب دارو، تصمیم مالی، تعمیر یک وسیله یا حتی یک مسئله تخصصی، به همان شکلی که این کشاورز اعتماد کرد، به یک پاسخ هوش مصنوعی تکیه کند.

مسئله این نیست که هوش مصنوعی بی‌فایده است؛ اتفاقاً این فناوری می‌تواند در بسیاری از کارها بسیار کمک‌کننده باشد. مسئله از جایی شروع می‌شود که پاسخ هوش مصنوعی را با نظر قطعی یک متخصص اشتباه بگیریم.

این کشاورز شاید اگر همان توصیه را فقط یک بار با یک کارشناس کشاورزی یا منبع تخصصی بررسی می‌کرد، می‌توانست از چنین خسارتی جلوگیری کند. اما اعتماد شکل‌گرفته در طول یک سال استفاده موفق، باعث شد این بار هم پاسخ سامانه را قابل اعتماد بداند.

و شاید همین قسمت ماجرا برای همه ما مهم‌تر باشد؛ چون ممکن است یک روز، پاسخ اشتباه هوش مصنوعی برای ما هم فقط یک جواب غلط نباشد.

ممکن است پای پول، سلامتی، شغل یا تمام سرمایه‌ای که برایش سال‌ها زحمت کشیده‌ایم در میان باشد.