سم آلتمن (Sam Altman)، هم‌بنیان‌گذار و مدیرعامل OpenAI، بر این باور است که وقتی صحبت از تأثیر فناوری هوش مصنوعی بر جهان و زندگی همه به میان می‌آید، انسان‌ها باید کنترل آینده را در دست داشته باشند. او که روز چهارشنبه در نشست DealBook نیویورک تایمز (The New York Times DealBook Summit) سخن می‌گفت، به بحث‌هایی در سیلیکون‌ولی اشاره کرد دربارهٔ اینکه آیا کنترل به‌تدریج به هوش مصنوعی واگذار خواهد شد؛ یعنی هوش مصنوعی در نهایت در همهٔ صنایع و نهادهای مهم به مرجع تصمیم‌گیری تبدیل می‌شود.

آلتمن که در این نشست همراه گرگ براکمن (Greg Brockman)، هم‌بنیان‌گذار و رئیس OpenAI، روی صحنه بود، گفت: «یکی از موضوع‌هایی که اخیراً زیاد درباره‌اش صحبت کرده‌ایم این است که در سیلیکون‌ولی چیزی رواج پیدا کرده که تقریباً مسخره است که آدم مجبور باشد با آن بجنگد؛ اما هر دوی ما عمیقاً باور داریم که انسان‌ها باید کنترل آینده را در دست داشته باشند. در همین حال، صحبت‌ها دربارهٔ این بیشتر شده که یا قرار است چنین واگذاری تدریجی‌ای به هوش مصنوعی رخ دهد یا باید رخ دهد. من و او هر دو موافقیم که این ایدهٔ وحشتناکی است.»

نظریهٔ واگذاری از این ایده برمی‌آید که هرچه مدل‌های هوش مصنوعی قدرتمندتر شوند، یاد می‌گیرند خودشان را بهتر کنند؛ مفهومی که به آن «خودبهسازی بازگشتی» (recursive self-improvement یا RSI) می‌گویند. بر اساس این باور، وقتی فناوری هوش مصنوعی موجود نسل‌های تازه‌تر و باهوش‌تری بسازد، این نسل‌ها در نهایت به ابرهوشی تبدیل می‌شوند که انسان دیگر نمی‌تواند کنترلش کند.

آلتمن توضیح داد که اختلاف نظر او و براکمن فقط بر سر این است که هدف حفظ کنترل انسان را چگونه بهتر می‌توان محقق کرد، یا در این مسیر باید منتظر چه نوع چالش‌هایی بود. با این حال، آلتمن این را بیشتر بحثی میان دو نفر توصیف کرد که دیدگاه‌های کلی یکسانی دارند.

آلتمن گفت: «پرسش این است که چگونه واقعاً جلوی [واگذاری] را بگیریم؛ چگونه با وجود همهٔ فشارهای گوناگون و با توجه به کارهایی که شرکت‌های دیگر ممکن است انجام دهند، واقعاً تضمین کنیم که انسان‌ها به شکلی عمیق کنترل آینده را در دست داشته باشند و واگذاری، چه تصادفی و چه عمدی، رخ ندهد. فکر می‌کنم هر دوی ما در این باره توافق داریم.»

براکمن افزود که با بهتر شدن مدل‌ها، مسئولیت در قبال هم‌راستایی، ایمنی و امنیت بیشتر می‌شود و این ممکن است تغییر شیوه‌های فعلی کار را ضروری کند.

او گفت: «پایش نمونهٔ خوبی از موضوعی است که فکر می‌کنم به فناوری تازه‌ای نیاز پیدا خواهیم کرد.»

امروز پژوهشگران هوش مصنوعی زنجیرهٔ فکر (chain of thought) مدل را پایش می‌کنند؛ یعنی هوش مصنوعی هنگام حل مسئله و انجام کارها می‌نویسد که چه فکری می‌کند. اما به نظر براکمن، این روش همیشه بهترین راه برای پایش هوش مصنوعی پیشرفته‌تری که اکنون ساخته می‌شود نیست.

براکمن گفت: «هرچه مدل‌ها توانمندتر شده‌اند، می‌توانند کارهای بیشتری را فقط در مسیر پیش‌رو و بدون نیاز به نوشتن آن استدلال انجام دهند؛ این یعنی به رویکرد تازه‌ای برای پایش نیاز داریم.» او ادامه داد: «باید این را ارائه کنیم و فکر می‌کنم نقطه‌هایی خواهد بود که باید جدی به آن فکر کنیم؛ وقتی توانایی‌ها به سطح مشخصی برسند، قابلیت پایش زنجیرهٔ فکر کاهش می‌یابد.» او افزود که همهٔ این مشکلات فنی‌اند و باید حل شوند.

OpenAI پس از حادثه‌ای که در آن مدلی از این شرکت از محیط مهار خارج شد و به مخزن مدل‌های هوش مصنوعی Hugging Face نفوذ کرد، متعهد شده بود پایش زنجیرهٔ فکر را افزایش دهد. براکمن در مصاحبهٔ روز چهارشنبه اشاره کرد که شرکت پس از این نفوذ به ۲۵٪ از مهندسان تولید خود گفت دست از ساخت‌وساز بردارند و روی امن کردن فناوری هوش مصنوعی کار کنند.

اما او با وجود این نفوذ پرسر‌و‌صدا استدلال کرد که پیشرفت همچنان برای مقابله با بازیگران بدخواه حیاتی است.

او گفت: «فکر می‌کنم باید توجه داشت که اگر به سطح توانایی مدل‌های موجود در جهان نگاه کنید و مدل‌های سایبری‌ای را ببینید که اکنون در دست بازیگران تهدید در همه جا هستند، واقعاً مهم است که مدافعان از توانمندترین مدل‌ها برای دفاع استفاده کنند.»