هوش مصنوعی در مسیر خارج شدن از کنترل؟ | هشدار پژوهشگران آنتروپیک درباره خطر نابودی بشر

به گزارش گروه علم و تکنولوژی چندثانیه آنلاین: سه پژوهشگر شرکت آنتروپیک، یکی از شرکت‌های پیشرو در حوزه هوش مصنوعی، نسبت به خطرات ناشی از توسعه سیستم‌های هوش مصنوعی فوق‌پیشرفته هشدار داده و گفته‌اند: در صورت ناتوانی انسان در کنترل این فناوری، پیامدهای آن می‌تواند فاجعه‌بار باشد.

به گزارش نیویورک‌تایمز، ایوان هوبینگر، رئیس تیم تحقیقات هم‌راستاسازی آنتروپیک، احتمال اینکه پیشرفت هوش مصنوعی در نهایت به نابودی تمام انسان‌ها منجر شود را بیش از ۱۰ درصد ارزیابی کرده است؛ برآوردی که نشان‌دهنده نگرانی جدی برخی از پژوهشگران فعال در قلب صنعت هوش مصنوعی است.

جیکوب کوکسون، یکی دیگر از پژوهشگران آنتروپیک، نیز همزمان با اعلام استعفای خود درباره سرعت بالای توسعه هوش مصنوعی هشدار داده است.

او معتقد است پیشرفت توانایی این سیستم‌ها سریع‌تر از توسعه روش‌هایی است که برای ایمن‌سازی و کنترل آنها در اختیار داریم.

یکی از مهم‌ترین نگرانی‌ها، رسیدن مدل‌های آینده به توانایی انجام مستقل تحقیقات مرتبط با هوش مصنوعی است؛ به این معنا که سیستم‌های پیشرفته بتوانند در توسعه و بهبود نسل‌های بعدی هوش مصنوعی نقش مستقیم داشته باشند.

پژوهشگران هشدار می‌دهند: چنین قابلیتی ممکن است سرعت پیشرفت هوش مصنوعی را به‌شدت افزایش دهد و در صورت نبود سازوکارهای ایمنی مؤثر، نظارت و کنترل انسان بر سیستم‌های بسیار قدرتمند آینده را دشوارتر کند.

این هشدارها به معنای قطعی بودن وقوع چنین فاجعه‌ای نیست، بلکه بیانگر ارزیابی ریسک از سوی شماری از متخصصانی است که روی مسئله ایمنی و هم‌راستاسازی هوش مصنوعی با اهداف انسانی کار می‌کنند.