بازنگری سیاست ایمنی آنتروپیک در اوج اختلاف با پنتاگون / چرخش مهم در رقابت هوش مصنوعی
به گزارش رزنیوز، کمپانی آنتروپیک در بلاگ رسمی خود سیاست موسوم به Responsible Scaling Policy (سیاست توسعه مسئولانه) را بازنویسی کرد و بند کلیدی آن که تعهد به توقف توسعه مدلهای قوی در صورتی که ایمنی آنها تضمینناپذیر باشد، را حذف کرد. این بند که برای دو سال امضای اصلی ایمنی این شرکت بود، حالا به سیاستی غیرالزامآور و قابل تغییر تبدیل شده است، به این معنی که آنتروپیک دیگر مجبور نیست توسعه مدلها را متوقف کند حتی اگر نتواند ایمنیشان را پیش از انتشار تضمین کند.
بازنگری یاد شده تاکید دارد اهداف ایمنی «هنوز مهم هستند» اما اکنون در قالب چارچوبی انعطافپذیرتر و غیرالزامآور ارائه میشوند.
دسترسی نظامی و خط قرمزها
همزمان با این بازنگری، آنتروپیک با پنتاگون درگیر تنشی جدی شده است. پیت هگست، وزیر دفاع ایالات متحده در دیداری با مدیرعامل آنتروپیک خواستار دسترسی کامل و بدون محدودیت به مدل این شرکت برای مقاصد نظامی شده است، در غیر این صورت تهدید کرده است که قرارداد ۲۰۰ میلیون دلاری پنتاگون را لغو و شرکت را وارد فهرست «ریسک زنجیره تأمین» خواهد کرد.
پنتاگون میخواهد مدل هوش مصنوعی این شرکت برای «تمام کاربردهای قانونی» در اختیار قرار گیرد، بدون اینکه شرکت در نحوه استفادههای خاص، مثل نحوه ترکیب با سیستمهای تسلیحاتی یا سیستمهای نظارتی، حق اعتراض داشته باشد.
با این حال، آنتروپیک دو خط قرمز مشخص دارد:
- عدم استفاده از هوش مصنوعی برای تسلیحات کاملاً خودکار بدون نظارت انسان
- عدم استفاده برای نظارت جمعی شهروندان آمریکایی
این خطوط قرمز در مذاکرات فعلی با دولت حفظ شدهاند، اما پنتاگون بر این باور است که هرگونه محدودیت در استفاده قانونی از تکنولوژیاش نباید اعمال شود.
چرا آنتروپیک سیاست ایمنیاش را تغییر داد؟
طبق بیانیه این شرکت، نسخه قبلی سیاست ایمنی که بر توقف توسعه در مواجهه با عدم اطمینان ایمنی تاکید داشت ممکن است توانایی آنتروپیک را برای رقابت در بازاری که سایر شرکتها با سرعت به سمت مدلهای قدرتمندتر پیش میروند، محدود کند. آنتروپیک همچنین گفته نسخه قبلی نتوانسته آنطور که انتظار میرفت سایر شرکتها را به اتخاذ سیاستهای مشابه تشویق کند.
در نسخه جدید، شرکت اشاره کرده که به جای «تعهدات سخت»، اهداف عمومی و گزارشهای شفاف منتشر خواهد کرد تا فرآیند کاهش ریسک را علنی و قابل ارزیابی کند.
این تحول از چند منظر اهمیت دارد. از نظر اهمیت رقابتی، وقتی یک شرکت که با سیاستهای ایمنی سخت شناخته میشد، این رویکرد را کنار میگذارد، ممکن است سایر شرکتها نیز نگرش مشابهی اتخاذ کنند یا نیاز به مقررات قویتر احساس شود.
از نظر سیاستگذاری عمومی و قوانین، این تنش میان آنتروپیک و پنتاگون میتواند باعث شود بحث درباره اینکه چه کسی باید کنترل محدودیتها را اعمال کند جدیتر شود.
این اتفاق همچنین نشان میدهد که فشارهای بازار، رقابت و الزامات نظامی چگونه میتوانند بر تعهدات ایمنی شرکتها تأثیر بگذارند، حتی در شرکتهایی که ابتدا اهداف ایمنی جدی داشتند.
برخی تحلیلگران هشدار دادهاند که حذف تعهدات سختگیرانه ممکن است فاصله بین توسعه فناوری و آمادگی ایمنی را بیشتر کند، بهویژه اگر سایر توسعهدهندگان فناوری بتوانند بدون چنین محدودیتهایی پیش بروند. همچنین ممکن است نیاز به مقررات الزامآور ایمنی هوش مصنوعی افزایش یابد، بهویژه که شرکتها اکنون سیاستهای داخلی خود را انعطافپذیرتر میکنند تا با رقابت مطابقت پیدا کنند.
منبع: سیانان
5858
