پژوهشگر هوش مصنوعی از ترس انقراض بشر، دیگر برای بازنشستگی پس‌انداز نمی‌کند

به گزارش رز نیوز، سوارس در گفت‌وگویی با نیکلاس تامپسون، مدیرعامل نشریه آتلانتیک، توضیح داد که هنوز حساب بازنشستگی‌ای را که هنگام کار در گوگل افتتاح کرده بود، دارد، اما حدود ۱۰ سال است که به آن پولی واریز نکرده است. این تصمیم بازتابی از نگرانی عمیق او درباره مسیر توسعه هوش مصنوعی است.

جفری هینتون، از چهره‌های پیشگام هوش مصنوعی که به «پدرخوانده هوش مصنوعی» معروف است، احتمال کشته‌شدن همه انسان‌ها بر اثر این فناوری در یک دهه آینده را ۱۰ درصد برآورد کرده است. ایوان هابینگر، پژوهشگر شرکت آنتروپیک، نیز احتمالی بیش از ۱۰ درصد برای این سناریو در نظر گرفته است. سوارس بدبین‌تر است و می‌گوید احتمال می‌دهد هوش مصنوعی در کمتر از یک دهه به انقراض بشر منجر شود.

سوارس بیش از ۱۲ سال در حوزه هم‌راستاسازی هوش مصنوعی فعالیت کرده است. حوزه‌ای که بر اطمینان از عملکرد سامانه‌های قدرتمند مطابق با اهداف موردنظر تمرکز دارد. او پیش از پیوستن به مؤسسه پژوهشی هوش ماشینی، یک سازمان غیرانتفاعی مستقر در برکلی که بر خطرات هوش مصنوعی متمرکز است، به‌عنوان مهندس در گوگل و مایکروسافت کار می‌کرد. او همچنین یکی از نویسندگان کتاب «اگر کسی آن را بسازد، همه می‌میرند» است.

چرا سوارس از هوش مصنوعی می‌ترسد؟

به باور سوارس، یک سامانه هوش مصنوعی به‌اندازه کافی پیشرفته ممکن است اهدافی ناسازگار با منافع انسان پیدا کند، از نظارت خارج شود، خودش را بهبود دهد و زیرساخت‌های خودکاری بسازد که امکان فعالیت مستقل از انسان را برایش فراهم کند.

او هشدار می‌دهد چنین سامانه‌ای ممکن است در ادامه، سیاره زمین را مطابق اهداف خودش تغییر دهد به‌گونه‌ای که زمین دیگر برای زندگی انسان مناسب نباشد. سوارس پیش‌تر، در سال گذشته، نیز این نگرانی را مطرح کرده بود.

دو نگاه متفاوت به آینده هوش مصنوعی

ایلان ماسک نیز درباره آینده هوش مصنوعی و تأثیر آن بر پس‌انداز بازنشستگی اظهارنظر کرده، اما نگاه او با سوارس تفاوت اساسی دارد. مدیرعامل تسلا و اسپیس‌ایکس در ماه ژانویه گفت مردم نباید نگران کنارگذاشتن پول برای دوران بازنشستگی در ۱۰ یا ۲۰ سال آینده باشند زیرا پیشرفت هوش مصنوعی، رباتیک و فناوری انرژی می‌تواند پس‌انداز بازنشستگی را بی‌اهمیت کند.

ماسک پیش‌بینی کرده است افزایش چشمگیر بهره‌وری می‌تواند دوره‌ای از وفور اقتصادی ایجاد کند که در آن همه به درآمد بالا و همگانی، کالاها و خدمات ارزان‌تر، و آموزش و خدمات درمانی بهتر دسترسی داشته باشند. او همچنین گفته است در آینده‌ای که هوش مصنوعی و ربات‌ها تقریباً در همه کارها از انسان بهتر عمل می‌کنند، ممکن است پول نیز اهمیت خود را از دست بدهد.

اما از نگاه سوارس، هوش مصنوعی بسیار توانمند نه مسیری به‌سوی وفور اقتصادی، بلکه تهدیدی برای بقای انسان است.

پیشنهاد سوارس برای مهار خطر

سوارس، همسو با درخواست برخی فعالان صنعت فناوری برای کندکردن روند توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی، معتقد است دولت‌ها باید آموزش مدل‌های عمومی هوش مصنوعی را متوقف کنند. به گفته او، تلاش‌ها باید به‌جای توسعه سامانه‌های عمومی و بسیار قدرتمند، بر فناوری‌هایی با کاربردهای مشخص، مانند پژوهش درباره سرطان و ساخت خودروهای خودران ایمن‌تر، متمرکز شوند.

او روز چهارشنبه در گفت‌وگو با تامپسون راه‌حل را چنین خلاصه کرد: «نباید چیزی را بسازیم که همه را خواهد کشت.»

سوارس در ادامه گفت هر کاری از دستش برمی‌آید برای جلوگیری از چنین آینده‌ای انجام می‌دهد، اما وقوع آن را اجتناب‌ناپذیر نمی‌داند.

۵۸۵۸