همزمان با نخستین حضور Anthropic در والاستریت در روز پنجشنبه و در قالب بزرگترین عرضه اولیه سهام تاریخ، داریو آمودِی (Dario Amodei)، مدیرعامل این شرکت، بار دیگر بر تعهد Anthropic به توسعه مسئولانه هوش مصنوعی تأکید کرد. آمودِی در سخنرانی خود پیش از به صدا درآمدن زنگ افتتاحیه Nasdaq قول داد که این شرکت هوش مصنوعی زیر فشارهای تجاری یا سیاسی خم نشود و «تحت کنترل انسان بماند».
مدیرعامل Anthropic سخنرانی را از روی متن چاپشده خواند و با اشاره به ریشههای شکلگیری این شرکت آغاز کرد؛ جایی که به گفته او با هدف ساختن فناوری قدرتمندی برای کمک به بشریت پایهگذاری شد. او گفت این ایده از فقدان پدرش بر اثر بیماریای شکل گرفت که تنها چند سال بعد درمانپذیر شد.
او پذیرفت که هوش انسانی بیماریهایی مانند طاعون، آبله و فلج اطفال را برای بیشتر نقاط جهان به تاریخ سپرده است، اما هنوز شمار دانشمندانی که در دیگر حوزههای بیماری پیشرفت ایجاد کنند بسیار کم و زمان آنها بسیار محدود است. به گفته او، هوش مصنوعی میتواند با همکاری انسان در پیشبرد پزشکی به این مسئله کمک کند.
اینکه آمودِی سخنانش را با داستانی درباره کاربردهای بالقوه نجاتبخش هوش مصنوعی آغاز کرد، نکتهای معنادار است؛ چراکه او بارها درباره خطرهای پیشرفت بیش از حد سریع این فناوری هشدار داده است. آمودِی در سپتامبر با ارائه طرحی برای توسعه هوش مصنوعی با سرعتی کنترلشده تیتر خبرها شد؛ طرحی که مواردی مانند هماهنگی با دیگر شرکتهای پیشرو بر سر استانداردهای ایمنی و به کار گماردن ارزیابانی از سازمانهای مستقل برای راستیآزمایی پایبندی شرکتها به تعهدات ایمنیشان را در بر میگرفت.
سام آلتمن (Sam Altman)، مدیرعامل OpenAI، دمیس هاسابیس (Demis Hassabis)، مدیرعامل Google DeepMind، و ایلان ماسک (Elon Musk)، مالک xAI، گفتند با موضع آمودِی موافقاند، هرچند تعهدات مشخص اندکی در این زمینه انجام شده است.
آمودِی در سخنرانی صبح امروز نیز بر ضرورت پیشبرد فناوری هوش مصنوعی و ایمنی لازم در این مسیر تأکید کرد. او به «خطرهای کاملاً واقعی» هوش مصنوعی در دست بازیگران بد اشاره کرد، چه افراد باشند و چه دولت-ملتها، و نیز به احتمال بروز مواردی مانند «اختلال اقتصادی» و «از دست رفتن کنترل سیستمهای هوش مصنوعی».
او گفت Anthropic بر این باور است که تا زمانی که تدابیر حفاظتی وجود داشته باشد، میتوان از این خطرها دوری کرد. آمودِی گفت شرکتش به سرمایهگذاری در کار همراستاسازی و آزمون هوش مصنوعی و توسعه روشهای تازه برای شناخت رفتار آن ادامه میدهد تا این فناوری تحت کنترل انسان بماند.
او گفت: «کارهای زیادی باقی مانده است و دشوارترین کارهای حوزه ایمنی پیش روی ماست. استعداد فوقالعادهای که شرکت را قادر ساخته توانمندترین سیستمهای هوش مصنوعی را بسازد، باید بیش از پیش به بازبینی دوباره و سهباره ایمن بودن این سیستمها و ماندنشان تحت کنترل انسان معطوف شود.»
آمودِی در پایان گفت: «و صریح بگویم، آموزش و استقرار سیستمهای هوش مصنوعی را با سرعتی کنترلشده پیش میبریم و هر زمان که لازم باشد صبر میکنیم تا مطمئن شویم این سیستمها ایمناند و تحت کنترل انسان باقی میمانند.»
دنیلا آمودِی (Daniela Amodei)، خواهر او و همبنیانگذار Anthropic، روز پنجشنبه در مصاحبهای با CNBC همین نظر را تکرار کرد و گفت هرچند خطرها واقعیاند، وعده هوش مصنوعی نیز «فوقالعاده» است.
او افزود: «ما واقعاً بر این ایده بنیان گذاشته شدیم که وظیفه ما کاهش این خطرهاست و فکر میکنم تا امروز کار فوقالعادهای در این زمینه انجام دادهایم. بدیهی است که کارهای بیشتری پیش رو داریم، اما عمیقاً به ایمنی متعهدیم.» متن کامل سخنرانی افتتاحیه داریو آمودِی در ادامه آمده است:
از شما سپاسگزارم، دنیلا. من و همبنیانگذارانم Anthropic را با این باور راه انداختیم که قدرتمندترین فناوری زمانه ما باید به سود بشریت ساخته شود. دنیلا و من پدرمان را بر اثر بیماریای از دست دادیم که تنها چند سال بعد درمانپذیر شد. من کار حرفهایام را در زیستشناسی آغاز کردم، به این امید که به درمانهای آینده کمک کنم زودتر از راه برسند. در آزمایشگاه، انبوه پیچیدگیهایی را دیدم که دانشمندان هنگام تلاش برای شناخت بیماری و توسعه درمانهای تازه با آن روبهرو میشوند. بسیاری از ابزارهای علمی که میتوانند این انبوه پیچیدگی را بشکافند — ابزارهای ویرایش ژن، ابزارهای ساخت ژن، ابزارهای کنترل سلولهای مغزی با نور — در آغاز صرفاً ایدههایی خام بودند. به بیان دیگر، از اندیشه و از هوش سرچشمه گرفته بودند. هوش انسانی پیشتر بیماریهایی مانند طاعون، آبله و فلج اطفال را برای بیشتر نقاط جهان به تاریخ سپرده است. اما پیشرفت در دیگر بیماریها برای بسیاری از بیماران و خانوادههایشان بسیار کند بوده است. تبدیل یک ایده بزرگ به درمان میتواند دههها طول بکشد. از نخستین کشف الگویی عجیب و تکرارشونده در DNA تا تأیید نخستین درمان بیماری با CRISPR سالها طول کشید. طبیعت سرشار از این الگوهاست، اما هوش ما برای رمزگشایی از بیشتر آنها بسیار کم بوده است. دانشمندان بسیار کم و زمان بسیار محدود. اکنون میتوانیم آن هوش را بسازیم. چه در تاشدگی پروتئین، چه در طراحی دارو، چه در ژنتیک سرطان یا مدیریت کارآزمایی بالینی، دانشمندان در بسیاری از حوزههای زیستشناسی و پزشکی میبینند که Claude میتواند به آنها کمک کند پژوهششان را در کسری از زمانی انجام دهند که تنها چند سال پیش لازم بود. من باور دارم هوش مصنوعی بهاندازه کافی قدرتمند، در همکاری با انسان، میتواند یک قرن پیشرفت علمی و پزشکی را در یک دهه فشرده کند. نمیخواهم از خودم جلو بزنم. در این مرحله، تنها نتایج اولیه را در دست داریم. آزمایشها و کارآزماییهای بالینی همچنان زمان میبرند و هرچند فرایندهایی کند و سنگیناند، باور دارم هوش مصنوعی میتواند آنها را بهطور چشمگیری تسریع کند. امیدواریم در آینده خانوادههای کمتری درمانی را با چند سال تأخیر از دست بدهند. پزشکی فقط نمونهای بهویژه گویاست، اما کاربردهای Claude بسیار بیشتر است. مشتریان ما، جاهطلبترین شرکتهای جهان، سازمانهای غیرانتفاعی و افراد، هماکنون از هوشی که ساختهایم برای تحریک رشد اقتصادی، بیرون آوردن مردم از فقر، حفاظت از دموکراسی و جوامع آزاد و حتی بهتر کردن خدمات روزمرهای مانند DMV استفاده میکنند. ما به همکاری با آنها افتخار میکنیم و درباره آنچه میتوانیم در آینده با هم انجام دهیم بسیار خوشبینم. در همان حال، همیشه صادق بودهایم که این فناوری خطرهای کاملاً واقعی دارد. این خطرها از سوءاستفاده افراد یا دولت-ملتها از فناوری تا اختلال اقتصادی و از دست رفتن کنترل سیستمهای هوش مصنوعی را در بر میگیرد. ما درباره این خطرها بحث میکنیم نه از آن رو که فکر میکنیم اجتنابناپذیرند و در هر حال میسازیم، بلکه از آن رو که فکر میکنیم میتوان از آنها دوری کرد و میتوانیم دوری کنیم. دوری از آنها به انتخابهای کسانی بستگی دارد که هوش مصنوعی میسازند. تفاوت عظیمی وجود دارد میان مسیری که هوش مصنوعی در پیش میگیرد اگر به ایمنی کمتوجه باشیم و مسیری که در پیش میگیرد اگر وسواس ایمنی داشته باشیم. و وسواس ایمنی و سود عمومی از همان آغاز در DNA Anthropic نهاده شده است؛ از تدابیر حفاظتی در برابر خطرهای زیستی و سایبری تا آموزش و آزمون همراستاسازی تا نگاه کردن به درون مدلهایمان مانند یک پرتونگاری. Anthropic روشهایی را برای شناخت و هدایت رفتار هوش مصنوعی و نگه داشتن آن تحت کنترل انسان پیشگام بوده است. کارهای زیادی باقی مانده است و دشوارترین کارهای حوزه ایمنی پیش روی ماست. استعداد فوقالعادهای که شرکت را قادر ساخته توانمندترین سیستمهای هوش مصنوعی را بسازد، باید بیش از پیش به بازبینی دوباره و سهباره ایمن بودن این سیستمها و ماندنشان تحت کنترل انسان معطوف شود. و صریح بگویم، آموزش و استقرار سیستمهای هوش مصنوعی را با سرعتی کنترلشده پیش میبریم و هر زمان که لازم باشد صبر میکنیم تا مطمئن شویم این سیستمها ایمناند و تحت کنترل انسان باقی میمانند؛ زیر فشارهای تجاری یا سیاسی خم نمیشویم. امروز شرکت را در موقعیت مالی قویتری قرار میدهد و این خود تنها عزم ما را برای انجام کار درست راسختر میکند. اگر بتوانیم نشان دهیم انتخابهای درست در زمینه ایمنی با ساختن شرکتی فوقالعاده موفق سازگار است، دیگران در صنعت ما نیز به همین کار ترغیب میشوند. ما این را رقابت به سمت بالا مینامیم. وقتی رقابت به سمت بالا درست کار کند، مهم نیست کدام شرکت بهترین مدلها را دارد. همه برندهاند چون همه ایمن میسازند. رقابت به سمت بالا وقتی بهترین کارکرد را دارد که از جلوی گله رانده شود و ما کاملاً امیدواریم و انتظار داریم چنین کنیم. اما هدف بهتر کردن کل صنعت است، بیآنکه مهم باشد Anthropic در هر لحظه برنده است یا بازنده. ظهور هوش ماشینی یکی از لحظههای سرنوشتساز تاریخ بشر است و ما فرصتی کمیاب داریم آن را به سمت بهتر شدن شکل دهیم. سپاسگزارم.
نگار رضایی

سارا نادری

آرمان کریمی