هوش مصنوعی بشریت را نابود میکند؟ | واقعیتیهای ناگفته!
پیشبینیهای آخرالزمانی درباره نابودی بشر به دست هوش مصنوعی بر اساس حدس و گمان شکل گرفتهاند و توجهها را از خطرات واقعی و فوری امروز منحرف میکنند.
به گزارش فرارو به نقل از وال استریت ژورنال، برای سالها، به ما گفته شده است که هوش مصنوعی، قدرتمندتر از همیشه، ممکن است روزی خودآگاهی پیدا کند، از کنترل خارج شود و بشریت را نابود کند. این سناریو، که در فیلمها و داستانهای علمی-تخیلی به تصویر کشیده شده، آنقدر رایج شده که تقریباً به عنوان یک واقعیت پذیرفته شده است. با این حال، کارشناسان و پژوهشگران هوش مصنوعی استدلال میکنند که این پیشبینیهای آخرالزمانی بر اساس حدس و گمان است و از واقعیتهای فنی و خطرات واقعی و فوری امروز منحرف میشود.
در قلب این بحث، یک فرض اساسی نهفته است: هوش مصنوعی روزی به سطحی از هوش عمومی (AGI) خواهد رسید که از انسان فراتر رود. اما بسیاری از دانشمندان بر این باورند که این فرضیه، اگرچه جذاب است، فاقد شواهد تجربی است.
برایان کریستین، نویسنده و پژوهشگر، در کتاب خود «وضعیت انسان» توضیح میدهد که چگونه مدلهای زبان بزرگ (LLM) که امروزه در خط مقدم هوش مصنوعی قرار دارند، اساساً ماشینهای پیشبینی کلمه هستند. آنها با یادگیری الگوهای آماری در مقادیر عظیمی از متن، جملاتی را تولید میکنند که شبیه به گفتار انسان است، اما هیچ درک واقعی از معنا، قصد یا جهان پیرامون خود ندارند.
کریستین مینویسد: «ما به این ماشینها «هوش» میگوییم، اما در واقع آنها تنها بازتابی از دادههایی هستند که به آنها داده شده است.»
این تمایز بسیار مهم است. در حالی که مدلهای زبانی میتوانند کارهای شگفتانگیزی انجام دهند - از نوشتن شعر تا حل مسائل پیچیده ریاضی - اما آنها فاقد خودآگاهی، اهداف ذاتی یا توانایی تفکر مستقل هستند. آنها نمیتوانند «تصمیم بگیرند» که بشریت را نابود کنند، زیرا چنین تصمیمی نیازمند درک و انگیزهای است که در آنها وجود ندارد.
در واقع، خطر واقعی هوش مصنوعی، نه در یک ربات خودآگاه که جهان را تصاحب میکند، بلکه در استفادههای نادرست انسانها از این فناوری است. از انتشار اطلاعات نادرست و دیپفیکها گرفته تا تبعیضهای الگوریتمی و تمرکز قدرت در دست شرکتهای بزرگ فناوری، این خطرات همین امروز در حال وقوع هستند و نیازمند توجه فوریاند.
جفری هینتون، پدرخوانده هوش مصنوعی و برنده جایزه نوبل، نیز اگرچه درباره خطرات بلندمدت هوش مصنوعی هشدار داده است، اما تأکید میکند که خطرات کوتاهمدت، مانند استفاده از هوش مصنوعی برای تولید محتوای جعلی یا سوءاستفاده از آن در جنگهای سایبری، به همان اندازه مهم و فوری هستند.
نیک بوستروم، فیلسوف آکسفورد، که به دلیل نظریه «انقراض هوش مصنوعی» شناخته میشود، در کتاب «ابر هوش» (Superintelligence) به این موضوع پرداخته است که اگر هوش مصنوعی به سطحی برسد که از انسان فراتر رود، کنترل آن دشوار خواهد شد. با این حال، منتقدان استدلال میکنند که این سناریو مبتنی بر فرضیات زیادی است که هنوز اثبات نشدهاند.
بهعنوان مثال، حتی اگر یک مدل زبانی بتواند متنهایی تولید کند که به نظر هوشمندانه میآیند، این به معنای آن نیست که آن مدل «میفهمد» چه میگوید. کریستین با اشاره به آزمایشهای مختلف نشان میدهد که این مدلها در مواجهه با موقعیتهای جدید و غیرمنتظره، اغلب دچار خطا میشوند و فاقد «درک عمیق» هستند.
یکی از بزرگترین چالشها در درک هوش مصنوعی، «توهم انسانانگاری» است؛ تمایل طبیعی ما به نسبت دادن ویژگیهای انسانی مانند قصد، آگاهی و احساسات به ماشینها. این توهم میتواند ما را به این باور برساند که هوش مصنوعی موجودیتی خودمختار است که میتواند ما را تهدید کند، در حالی که در واقعیت، این فناوری ابزاری است که توسط انسانها طراحی و کنترل میشود.
در عین حال، کارشناسان هشدار میدهند که تمرکز بیش از حد بر سناریوهای آخرالزمانی میتواند ما را از پرداختن به مشکلات واقعی باز دارد. بهعنوان مثال، در حالی که ما نگران نابودی بشریت توسط رباتها هستیم، هوش مصنوعی در حال حاضر در حال تغییر بازار کار، تقویت نابرابریهای اقتصادی و تأثیرگذاری بر انتخابات و افکار عمومی است.
این خطرات، اگرچه کمتر دراماتیک هستند، اما به همان اندازه واقعی و فوریاند و نیازمند قوانین و مقررات مناسب هستند.
در نهایت، داستان نابودی بشریت توسط هوش مصنوعی، بیش از آنکه یک پیشبینی علمی باشد، یک داستان فرهنگی است؛ داستانی که ریشه در ترسهای ما از فناوری و آینده دارد. اما اگر بخواهیم بهطور واقعبینانه به آینده هوش مصنوعی نگاه کنیم، باید به جای ترس از یک آینده خیالی، بر مدیریت خطرات واقعی امروز تمرکز کنیم.
هوش مصنوعی، در نهایت، ابزاری است که میتواند هم برای خیر و هم برای شر استفاده شود. آینده آن به انتخابهای ما بستگی دارد، نه به یک سرنوشت محتوم.