Anthropic خواستار توقف جهانی در توسعه هوش مصنوعی پیشرفته است

پنجشنبه گذشته، شرکت آنتروپیک — شرکت هوش مصنوعی سانفرانسیسکویی که در حال ساخت برخی از توانمندترین سیستم‌های هوش مصنوعی روی کره زمین است — گزارشی منتشر کرد که استدلال می‌کند همین سیستم‌ها به آستانه‌ای خطرناک نزدیک می‌شوند که کند شدن سرعت توسعه در سطح جهانی را توجیه می‌کند. این پیشنهاد از حیث منبع خود قابل توجه است: این یک منتقد خارجی یا یک نهاد نظارتی دولتی نیست. این شرکتی است که کدها را می‌نویسد.

پست وبلاگی که توسط جک کلارک، هم‌بنیان‌گذار آنتروپیک، و مارینا فاورو، رئیس موسسه آنتروپیک نوشته شده، دلایلی را برای توقف هماهنگ بین‌المللی در توسعه هوش مصنوعی پیشرو ارائه می‌دهد — نوعی از اجراهای آموزشی در مقیاس بزرگ و پرهزینه که مدل‌هایی مانند کلود، جی‌پی‌تی و جمینای را تولید می‌کنند. نگرانی آن‌ها بر یک خطر خاص متمرکز است: خودبهبودی بازگشتی، سناریویی که در آن یک سیستم هوش مصنوعی قادر به طراحی جانشین خود بدون نظارت معنادار انسانی می‌شود.

چرا اکنون

کلارک و فاورو استدلال می‌کنند که قابلیت‌های هوش مصنوعی سریع‌تر از ساختارهای اجتماعی، چارچوب‌های نظارتی و تحقیقات هم‌راستایی که برای اداره ایمن آن‌ها لازم است، در حال پیشرفت هستند. به گفته آن‌ها، پنجره ایجاد موانع حفاظتی در حال بسته شدن است — و یک توقف هماهنگ زمانی را که برای همگام شدن علم هم‌راستایی و حکمرانی لازم است، فراهم می‌کند.

تشبیهی که به آن متوسل می‌شوند، کنترل تسلیحات هسته‌ای است. همانطور که قدرت‌های بزرگ هسته‌ای سرانجام تشخیص دادند که خویش‌تنهایی یک‌جانبه کافی نیست — و تنها یک پیمان قابل‌راستی‌آزمایی چندجانبه می‌تواند خطر را کاهش دهد — کلارک و فاورو استدلال می‌کنند که هوش مصنوعی پیشرو نیازمند همان نوع توافق بین‌المللی هماهنگ است. آن‌ها ایالات متحده و چین را به عنوان طرف‌های ضروری نام می‌برند؛ بدون هر دو، هر توقفی صرفاً پیشروی را از یک کشور به کشور دیگر منتقل می‌کند.

این مقایسه همزمان معتبر است و هم نقض می‌شود. برنامه‌های هسته‌ای نیازمند زیرساخت فیزیکی هستند — تأسیسات غنی‌سازی، رآکتورها، سایت‌های آزمایش — که می‌توانند توسط ماهواره‌ها و بازرسان بین‌المللی نظارت شوند. اجراهای آموزشی هوش مصنوعی در مراکز داده‌ای انجام می‌شوند که از بیرون، شبیه زیرساخت‌های محاسباتی معمولی به نظر می‌رسند. همانطور که کلارک و فاورو اذعان می‌کنند، مسئله راستی‌آزمایی دشوارتر است. مشکل فرار نیز به همین ترتیب است: یک اجرای آموزشی که سه ماه طول می‌کشد و صدها میلیون دلار هزینه دارد، وسوسه‌ای است که انگیزه‌های شرکتی به تنهایی نمی‌توانند آن را خنثی کنند.

استقبال

واکنش سایر بخش‌های صنعت، به طور قابل پیش‌بینی، متفاوت بوده است. برخی محققان از این فراخوان به عنوان اذعانی دیرهنگام به این نکته استقبال کردند که توسعه هوش مصنوعی پیشرو خطرات سیستمی به همراه دارد که هیچ شرکت واحدی نمی‌تواند به تنهایی مدیریت کند. دیگران با همان قاطعیت مخالفت کردند — با این استدلال که این پیشنهاد خطرات کوتاه‌مدت را بیش از حد برآورد می‌کند، اینکه «خودبهبودی بازگشتی» همچنان حدسی است، و اینکه توقف در توسعه غربی صرفاً میدان را به بازیگرانی با تعهدات ایمنی کمتر واگذار می‌کند.

یک نقد ساختاری‌تر نیز وجود دارد. آنتروپیک همزمان خواستار توقف است و برای قراردادها، مشارکت‌ها و استعدادهایی که مشخص می‌کند چه کسی نسل بعدی مدل‌های پیشرو را می‌سازد، رقابت می‌کند. این شرکت اخیراً دسترسی به مدل سایبری خود، میتوس، را به ۱۵۰ سازمان از جمله ناتو گسترش داده است. تضاد بین «مسئولانه بسازید» و «لطفاً نسازید» به راحتی قابل جمع نیست.

آنتروپیک می‌گوید قصد دارد در ماه‌های آینده اجلاسی را با حضور مقامات دولتی، دانشمندان، گروه‌های حامی و شرکت‌های رقیب هوش مصنوعی تشکیل دهد تا بررسی کند که یک مکانیسم هماهنگ در عمل چگونه می‌تواند باشد.

معنای واقعی این موضوع

اثر واقع‌بینانه کوتاه‌مدت این گزارش یک توقف نیست. هیچ آزمایشگاه بزرگ هوش مصنوعی به طور یک‌جانبه اجراهای آموزشی را متوقف نخواهد کرد. اوپن‌ای‌آی، گوگل دیپ‌مایند، متا، ایکس‌ای‌آی و آزمایشگاه‌های پیشرو چین همگی در میانه مسابقه هستند. قانون بزرگ هوش مصنوعی آمریکا که این هفته امضا شد، نشان می‌دهد که سیاست فدرال ایالات متحده به سمت شتاب‌بخشی و تقدم بر محدودیت‌های سطح ایالتی حرکت می‌کند — نه خویش‌تن‌داری.

کاری که این گزارش انجام می‌دهد، جابجایی پنجره اورتون است. یک سال پیش، فراخوان برای توقف، زبان محافل حاشیه‌ای ایمنی هوش مصنوعی بود. اکنون این زبان شرکتی است که تقریباً یک تریلیون دلار ارزش دارد. این موضوع توقف را محتمل‌تر نمی‌کند — اما رد کردن این سوال که آیا توقفی لازم است یا نه را دشوارتر می‌سازد.

میراث ماندگارتر این لحظه ممکن است تحقیقات هم‌راستایی و توجه دولتی باشد که به راه می‌اندازد. اگر این گزارش بودجه تحقیقاتی فدرال و تمرکز نظارتی را به سمت راستی‌آزمایی و نظارت سوق دهد — درک اینکه سیستم‌های هوش مصنوعی واقعاً قبل از اینکه بتوانند خود را بهبود بخشند، چه می‌کنند — آن‌گاه کار مشخصی انجام داده است، حتی اگر خود توقف هرگز محقق نشود.

منبع: سیلیکون‌انگل | لس‌آنجلس تایمز