Blog
جهان به لحظهای شبیه آغاز کرونا برای هوش مصنوعی نزدیک شده است / هشدار دانشمند برنده جایزه تورینگ
به گزارش رز نیوز، یوشوا بنجیو، دانشمند علوم کامپیوتر کانادایی و استاد دانشگاه مونترال، در گفتوگو با گاردین وضعیت کنونی را با روزهای ابتدایی همهگیری کرونا مقایسه کرده است. او معتقد است همانطور که دولتها پس از آشکار شدن خطر کرونا به سرعت وارد عمل شدند، افزایش نگرانیهای عمومی درباره هوش مصنوعی نیز میتواند به اقدامات جدیتر دولتها منجر شود.
چرا نگرانی درباره هوش مصنوعی افزایش یافته است؟
در هفتههای اخیر چند اتفاق بحث درباره ایمنی مدلهای پیشرفته هوش مصنوعی را دوباره داغ کرده است. گاردین به مواردی اشاره میکند که در آن عوامل هوش مصنوعی شرکتهایی مانند OpenAI و آنتروپیک فعالیتهایی بدون مجوز، از جمله تلاش برای هک سامانههای دیگر، استفاده از هویت جعلی و دستکاری وبسایتها، انجام دادهاند.
همزمان، ۴۲ عضو و عضو خارجی انجمن سلطنتی بریتانیا در نامهای نسبت به سرعت پیشرفت هوش مصنوعی ابراز نگرانی کردهاند و خواستار توجه بیشتر دولت و رسانهها به خطرات احتمالی شدهاند.
بنجیو نیز از جمله پژوهشگرانی است که درباره خطرات احتمالی سیستمهای بسیار قدرتمند و مستقل هشدار داده است. او با این حال میگوید نسبت به برخی ناظران خوشبینتر است، زیرا به گفته خودش افکار عمومی نیز بیشتر متوجه این مسئله شده است.
راهکار بنجیو چیست؟
بنجیو روی سازمان غیرانتفاعی LawZero کار میکند که هدف آن توسعه روشهایی برای افزایش ایمنی سیستمهای هوش مصنوعی است. یکی از پروژههای این سازمان، Scientist AI، قرار است مانند یک لایه حفاظتی در کنار عوامل هوش مصنوعی عمل کند و رفتارهایی مانند فریب یا تلاش برای جلوگیری از خاموش شدن سیستم را شناسایی کند. دولتهای کانادا و آلمان نیز تا سقف ۳۰۰ میلیون دلار کانادا برای این سازمان اعلام حمایت مالی کردهاند.
با این حال، درباره سرعت قانونگذاری اجماع وجود ندارد. برخی منتقدان معتقدند درخواست شرکتهای بزرگ فناوری برای مقررات جدید ممکن است به ایجاد موانعی برای رقبای کوچکتر منجر شود. در مقابل، بنجیو این استدلال را رد کرده و میگوید کند شدن توسعه هوش مصنوعی برای شرکتهای بزرگ نیز هزینه مالی قابل توجهی خواهد داشت.
وقوع یک «بحران هوش مصنوعی» فعلا قطعی نیست اما افزایش اختلاف نظر درباره نحوه مدیریت خطرات فناوری و سرعت مناسب قانونگذاری هر روز بیشتر میشود.
۵۸۵۸
