شرکت‌های فناوری قصد دارند در آینده هوش مصنوعی پیشرفته‌تری خلق کنند. این هوش مصنوعی قرار است مشکلات بزرگ بشریت را حل کند و به‌عنوان دستیار همه‌چیزدان برای هر یک از ما عمل کند. منتقدان نگران‌اند که چنین هوش مصنوعی‌ای ممکن است از کنترل خارج شود.
در بزرگراه ۸۰ در ریچلند پاریش، یک شهرستان کم‌جمعیت در ایالت لوئیزیانای آمریکا، نیروهای امنیتی هیچ‌گاه دور نیستند. به محض اینکه بازدیدکنندگان چند دقیقه‌ای کنار جاده توقف می‌کنند، مردی با یک وانت می‌آید. شیشهٔ کناری را پایین می‌کشد و بازوی قدرتمندش را بیرون می‌آورد، فریاد می‌زند؛ «ورود و عکاسی ممنوع است!». «اینجا زمین خصوصی است.»
جاده هم؟ نه، جاده عمومی است. «اما شما نمی‌توانید جایی توقف کنید. چیزی برای دیدن وجود ندارد.»
چیزی برای دیدن وجود ندارد؟
اینجا، در ریچلند پاریش، یک پروژهٔ ساختمانی در جریان است که پیش از این در منطقه بی‌سابقه بوده است. جایی که چندی پیش نه کیلومتر مربع زمین زراعی بود، اکنون جرثقیل‌ها می‌چرخند، نوارهای نقاله حرکت می‌کنند، بیل مکانیکی، بولدوزر و ماشین‌آلات صاف‌کننده در حال فعالیت‌اند. قرقره‌های کابل با فیبر نوری نارنجی قرار است باز شوند و طناب‌های راه‌پله‌ای روی ده‌ها تیر برق نصب گردند. و زنجیره‌ای از حصارها وجود دارد، کیلومترها طول دارند. عمدتاً از فولاد ضدزنگ، با فاصلهٔ شبکه‌ای کم و ارتفاعی حدود دو متر.
شرکت متا، شرکت مادر فیسبوک، از چند ماه پیش با بیش از ده میلیارد دلار، بزرگ‌ترین مرکز دادهٔ جهان را در اینجا در حال ساخت است. بیش از ۵۰۰۰ کارگر در این پروژه انتظار می‌رود به کار مشغول شوند. در آخرین مرحلهٔ توسعه، همان‌طور که مارک زاکربرگ، بنیان‌گذار متا، اعلام کرده، این مرکز فضایی معادل حدود یک ششم منهتن را خواهد گرفت.
این مرکز و بسیاری مراکز مشابه، اگر مطابق برنامهٔ شرکت فناوری پیش روند، آینده را حتی بیشتر از چاپ کتاب، ماشین بخار یا اینترنت تحت تأثیر خواهند گذاشت. آنچه در داخل آنها اتفاق می‌افتد می‌تواند بزرگ‌ترین اختراع بشر باشد. و شاید، به گفتهٔ برخی متخصصان، آخرین اختراع بشر نیز باشد.
هدف، ایجاد یک هوش مصنوعی فوق‌العاده است، نوعی ذهن ماشینی قدرتمند. یک ماشین اختراع‌کننده که راه‌حل تمامی مشکلات بشر را ارائه می‌دهد: از ترافیک و بحران‌های آب‌وهوایی گرفته تا بیماری‌های سخت و دسترسی نابرابر به آموزش. زندگی روزمرهٔ بسیاری از مردم نیز احتمالاً به شدت تحت تأثیر چنین هوش فوق‌العاده‌ای قرار خواهد گرفت. نحوهٔ این تأثیر هنوز فقط در خطوط کلی قابل تصور است، زیرا چنین هوشی هنوز وجود ندارد.
امروزه هوش مصنوعی (AI) در برخی وظایف شناختی بر انسان برتری دارد. AI در شطرنج بهتر بازی می‌کند، متون چندصد صفحه‌ای را در چند ثانیه خلاصه می‌کند یا بیماری‌های کلیه و پروستات را در تصاویر بافتی انسان دقیق‌تر از پزشکان تشخیص می‌دهد. اما این برنامه‌ها عمدتاً در همان وظایف تخصصی هستند. یک هوش فوق‌العاده قرار است مغز انسان را در تقریباً همه زمینه‌ها همزمان پشت سر بگذارد.
فیلسوف نیک بوستروم این اصطلاح را در کتابی به همین نام در سال ۲۰۱۴ مطرح کرد. او می‌نویسد که یک هوش فوق‌العاده نه تنها می‌تواند بسیار سریع‌تر از ذهن انسان عمل کند، بلکه از نظر کیفیت نیز از هوش انسان پیشی بگیرد، «چنان که ما از هوش فیل‌ها، دلفین‌ها یا شامپانزه‌ها برتر هستیم». این ابرماشین قرار است در مراکز داده‌ای مانند آنچه در ریچلند پاریش ساخته می‌شود، با ابعاد عظیم و مقیاس‌پذیری به وجود آید.
متا می‌خواهد در توسعهٔ یک هوش مصنوعی فوق‌العاده پیشرو باشد، درست مانند گوگل دیپ‌مایند و اوپن‌ای‌آی، توسعه‌دهندهٔ ربات گفتاری شناخته‌شدهٔ چت‌جی‌پی‌تی، و همچنین شرکت چینی دیپ‌سیک که اوایل سال جاری با یک مدل هوش مصنوعی بسیار کارآمد رقبای آمریکایی را غافلگیر کرد. این شرکت‌ها منابع عظیمی در اختیار دارند و – بر خلاف شرکت‌های اروپایی – اغلب می‌توانند بدون مشکل سالانه ده‌ها میلیارد دلار را در ایده‌ای سرمایه‌گذاری کنند که هیچ‌کس نمی‌تواند بگوید آیا روزی واقعی خواهد شد یا نه. اما اگر این ایده از کنترل خارج شود، می‌تواند برای انسان خطرناک‌تر از هر فناوری پیشین باشد: زیرا ممکن است به سیستم‌های کامپیوتری نفوذ کند، سلاح‌های جدید بسازد و علیه خالقان خود عمل کند. نه به این دلیل که انسان‌ها آن را برنامه‌ریزی کرده‌اند، بلکه چون خود آن را تصمیمی درست می‌داند.
در هفته‌های گذشته، این رقابت سرعت جدیدی گرفته است. به نظر می‌رسد شرکت‌ها در حال آماده شدن برای یک دور سرنوشت‌ساز هستند. سم آلتمن، مدیرعامل اوپن‌ای‌آی، برای سال آینده اعلام کرد که هوش مصنوعی‌ای عرضه خواهد شد که به طور مستقل «بینش‌های نوآورانه» دربارهٔ جهان به دست می‌آورد. آلتمن در وبلاگ خود ادعا می‌کند که انسانیت اکنون «نزدیک به هوش فوق‌العادهٔ دیجیتال» است. زاکربرگ نیز به سرعت واکنش نشان داد. او در اینستاگرام گفت که به زودی شرکتش هر انسان را با «هوش فوق‌العادهٔ شخصی» مجهز خواهد کرد که به او کمک می‌کند «به شخصی تبدیل شود که می‌خواهد باشد». به گفتهٔ او، هوش فوق‌العاده «اکنون در دسترس» است.
نزدیک است؟ در دسترس است؟ آیا این تنها اغراق بیش از حد برخی علاقه‌مندان پرشور در سیلیکون ولی است؟ یا بشر در آستانهٔ تغییر و تحولی است که از زمان انقلاب صنعتی بیش از ۱۵۰ سال پیش تجربه نکرده است؟ چه چیزی در انتظار ماست؟
آرزوها و کابوس‌ها
لاس‌وگاس، اواسط آگوست. بیرون، خورشید صحرا را کمی بعد از ساعت هشت صبح به بیش از ۳۵ درجهٔ سانتی‌گراد می‌رساند. داخل، در مرکز کنفرانس MGM Grand، جفری هینتون ۷۷ ساله تمام تلاش خود را می‌کند تا اشتیاق حضار را کاهش دهد. سال گذشته، او به عنوان پدرخواندهٔ شبکه‌های عصبی مصنوعی، جایزهٔ نوبل فیزیک را دریافت کرد. اکنون هزاران متخصص در کنفرانس هوش مصنوعی AI4 به او گوش می‌دهند، در حالی که تکنیکی را که خود به وجود آورده است، نقد می‌کند.
هینتون با تحقیقاتش در دانشگاه تورنتو نقش مهمی در پیشرفت چت‌جی‌پی‌تی و دیگر ربات‌های گفتاری داشت و سپس سال‌ها در گوگل تحقیقات هوش مصنوعی را پیش برد. تا دو سال پیش به طور ناگهانی کنار کشید، نه تنها به دلیل سن بالا، بلکه به گفتهٔ خودش، زیرا با موفقیت چت‌جی‌پی‌تی دریافت که تکنولوژی تا چه اندازه انسان‌ها را مجذوب می‌کند و می‌تواند به «هیولایی» تبدیل شود. از آن زمان او به سراسر جهان سفر می‌کند و دربارهٔ هوش مصنوعی‌ای هشدار می‌دهد که می‌تواند به «ریسک وجودی» برای بشر تبدیل شود.
هینتون می‌گوید به زودی یک هوش فوق‌العاده از هر انسان باهوش‌تر و توانمندتر خواهد شد و دو ویژگی را خواهد داشت: «می‌خواهد زنده بماند و کنترل داشته باشد.» زیرا می‌فهمد که با این کار به داده‌ها و توان محاسباتی بیشتری دسترسی پیدا می‌کند و سریع‌تر و بهتر می‌شود. او معتقد است روزی یک هوش مصنوعی می‌خواهد انسان‌ها را کنار بزند: «در آن زمان ما هستیم که برای بقا تلاش می‌کنیم.»
او همچنین ایده‌ای جسورانه برای جلوگیری از این سناریو دارد. کمی بعد از سخنرانی‌اش، در سوئیت هتل خود از او دعوت می‌کند و می‌گوید باید هوش مصنوعی را به عنوان گونه‌ای برتر پذیرفت و «غریزهٔ مادری» به آن القا کرد. رابطهٔ بین نوزاد و مادر تنها چیزی است که به ذهنش می‌رسد و در آن موجود ضعیف جسمی و ذهنی، رفتار موجود مسلط را کنترل می‌کند. به همین شیوه باید هوش مصنوعی را وادار کرد «که هرگز کاری انجام ندهد که بقای بشر را تهدید کند.»
هینتون تنها کسی نیست که چنین پیشرفتی در هوش مصنوعی را ممکن می‌داند.
به گفتهٔ دانیل کوکوتایلو، کارمند سابق اوپن‌ای‌آی، ممکن است ظرف پنج سال آینده برای بشریت شرایط سخت شود. او در آوریل با پروژهٔ AI Futures، یک اندیشکدهٔ تازه‌تأسیس، سناریویی بسیار مورد توجه منتشر کرد. کوکوتایلو به هفته‌نامهٔ اشپیگل گفت.بر اساس این سناریو، رقابت میان چین و ایالات متحده برای دستیابی به یک هوش فوق‌العاده می‌تواند مانع از مقررات مؤثر شود، زیرا هیچ کشوری نمی‌خواهد عقب بماند. در این صورت، هوش فوق‌العاده برای دستیابی به قدرت بیشتر تلاش خواهد کرد و به محض اینکه – در قالب ربات‌ها – «به اندازهٔ کافی زیرساخت را در اختیار داشته باشد، بشریت را حذف می‌کند تا بتواند کارخانه‌ها و نیروگاه‌های خورشیدی بیشتری بسازد».
همیشه تکنولوژی‌های نو نگرانی‌هایی ایجاد کرده‌اند. در قرن نوزدهم، پزشکان نگران بودند که قطار با سرعت زیاد روان انسان را به شدت تحت تأثیر قرار دهد. و در دههٔ ۱۹۵۰، منتقدان فرهنگی بیم داشتند که تلویزیون انسان‌ها را منزوی می‌کند. اما هرگز دامنهٔ این نگرانی‌ها به اندازهٔ هوش مصنوعی گسترده نبوده است؛ از ترس‌های برخی گرفته تا وعده‌های دیگران.
آیا نگرانی‌ها واقعی هستند؟ برای علاقه‌مندان و به ویژه سم آلتمن، مدیر اوپن‌ای‌آی، دلیل زیادی برای ترس وجود ندارد. او می‌نویسد که حتی در دههٔ آینده، انسان‌ها همچنان «خلاقیت نشان خواهند داد، بازی خواهند کرد و در دریاچه‌ها شنا خواهند کرد». واقعیت این است که انسان‌ها هنوز دوست دارند در شطرنج شرکت کنند، حتی اگر یک هوش مصنوعی بتواند هر زمان بدون زحمت آنها را شکست دهد. آنها زبان یاد می‌گیرند، حتی اگر بتوانند از طریق اپلیکیشن ترجمه با هم ارتباط برقرار کنند. شعر می‌سرایند یا ویولن می‌آموزند، حتی اگر در حال حاضر هم بدون هوش فوق‌العاده، کسی وجود دارد که شعرهای بهتر می‌نویسد یا ویولن بهتری می‌نوازد.
علاوه بر این، خوش‌بین‌ها هوش فوق‌العاده را یک فناوری امیدبخش می‌دانند. برخی آن را به عنوان دستیار یا مربی فوق‌العاده‌ای در تمام مسائل زندگی تصور می‌کنند. دیگران به کل جامعه فکر می‌کنند و امیدوارند که هوش فوق‌العاده همراه با مهندسان، پژوهشگران دارویی یا فیزیکدانان ایده‌هایی تولید کند که به تنهایی به آنها نمی‌رسند.
درمان‌های جدید برای بیماری‌های سخت؟ طراحی یک نیروگاه همجوشی و تولید برق تقریباً نامحدود؟ کشف فرمول نهایی فیزیک؟ پاسخ در این سناریوی بسیار خوش‌بینانه: هوش فوق‌العاده.
سم آلتمن در وبلاگ خود می‌نویسد که هوش و انرژی «محدودیت‌های اساسی پیشرفت بشر» هستند. با یک هوش فوق‌العاده، هر دو به «وفور» در دسترس خواهند بود: «با مقدار زیادی هوش و انرژی (و مدیریت خوب)، از نظر نظری می‌توانیم هر چیز دیگری را محقق کنیم.» مزایای آن چنان بزرگ به نظر می‌رسد که خوش‌بینان حرفه‌ای، مانند آینده‌نگر و توسعه‌دهندهٔ ارشد گوگل، ری کورزویل، معتقدند که در آینده انسان‌ها با یک تراشه در مغز خود داوطلبانه با هوش فوق‌العاده ترکیب خواهند شد. این کار امکان عملکرد شناختی بسیار بالاتر را فراهم می‌کند. کورزویل اخیراً در نشریهٔ «زایت» گفت: «اندازهٔ مغز دیگر محدود به چیزی نخواهد بود که از کانال تولد عبور کند.»
همهٔ این‌ها آن‌قدر خوب به نظر می‌رسد که به سختی می‌توان باورش کرد.
پیشرفت‌ها و اشتباهات
تنها چند ساعت پس از معرفی پیشرفته‌ترین مدل هوش مصنوعی اوپن‌ای‌آی در آگوست، نمونه‌های نخستین از شکست آن در وظایفی که برای اکثر انسان‌ها خنده‌دار آسان بود، در اینترنت ظاهر شد. GPT-5 به عنوان «گامی بزرگ در هوش» معرفی شده بود و در بسیاری زمینه‌ها از مدل‌های پیشین پیشی می‌گرفت. اما وقتی کاربران از هوش مصنوعی خواستند تا اسکچ یک دوچرخه را برچسب‌گذاری کند، GPT-5 فرمان را به عنوان صندلی و میلهٔ میانی را به عنوان زین شناسایی کرد. وقتی کسی تصویری از یک گورخر پنج‌پا بارگذاری کرد و تعداد پاها را پرسید، GPT-5 بدون تردید پاسخ داد: چهار.
چگونه ممکن است یک هوش مصنوعی در عرض چند سال به یک هوش فوق‌العاده تبدیل شود، در حالی که امروز حتی نمی‌تواند تا پنج درست بشمارد؟ با این حال، مدل‌های بزرگ زبانی، فناوری پشت برنامه‌هایی مانند GPT-5، به عنوان امیدوارکننده‌ترین مسیر برای رسیدن به هوش فوق‌العاده محسوب می‌شوند.
در اصل، این مدل‌ها مانند یک ماشین پیش‌بینی پیچیده عمل می‌کنند. اگر در طول آموزش حجم عظیمی از متن به آنها داده شود، می‌آموزند برای یک توالی از کلمات، محاسبه کنند که بهترین کلمهٔ بعدی چیست. به همین شکل، مدل‌های هوش مصنوعی تصاویر و حتی ویدیوهای کامل تولید می‌کنند. از آنجایی که این مدل‌ها محتوا ایجاد می‌کنند، به آنها هوش مصنوعی مولد گفته می‌شود.
از دههٔ ۲۰۱۰ به بعد، توسعه‌دهندگان مدل‌های زبانی پیشرفت‌های چشمگیری داشته‌اند. آنها اکنون با همکاری برنامه‌نویسان انسانی، کدهای کامپیوتری می‌نویسند، مسائل پیچیدهٔ ریاضی را حل می‌کنند و به راحتی مکالمه‌ای در سطحی انجام می‌دهند که انسان‌ها تقریباً نمی‌توانند تشخیص دهند با یک انسان صحبت می‌کنند یا با یک ربات. این مدل‌ها اکنون مسائل را به زیرمسائل تقسیم می‌کنند و به صورت مرحله‌ای حل می‌کنند – و حتی می‌توان فرآیند استدلال (Reasoning) آنها را مشاهده کرد.
با این حال، روش پیش‌بینی همچنان نقاط ضعف دارد. آنچه محتمل است، لزوماً درست نیست، به همین دلیل گاهی هوش مصنوعی دچار توهم می‌شود. و تمایل به نتیجه‌گیری اشتباه دارد. برنارد شولکوف، مدیر موسسهٔ ماکس پلانک برای سیستم‌های هوشمند در توبینگن، می‌گوید: «فقط به این دلیل که کسی سرفه می‌کند، به این معنا نیست که بیمار است؛ ممکن است به خاطر دود یا خفگی باشد. «مدل‌های زبانی هنوز در تشخیص همبستگی از علیت مشکل دارند»،.
پاسخ توسعه‌دهندگان به این نقص‌ها همیشه «بزرگی» بوده است. وقتی مدل‌های خود را بزرگ‌تر کرده و داده‌های بیشتری وارد کردند، گاهی جهش‌های قابل توجهی در هوش آنها رخ داد. آنها دیگر صرفاً تکرار آنچه در داده‌های آموزشی بود نبودند، بلکه مثلاً از قیاس‌ها استفاده کردند: در یک مطالعه، از کلمات «کلم» و «سبزیجات» نتیجه گرفتند که دستهٔ کلی مدنظر است و سپس کلمهٔ «حشره» را با «سوسک» مطابقت دادند. این جهش‌های عملکرد یکی از دلایل ایجاد بانک‌های دادهٔ عظیم و ساخت مراکز دادهٔ کلان توسط شرکت‌های هوش مصنوعی است.
آیا با بزرگ‌تر کردن مدل‌ها می‌توان هوش مصنوعی‌ای با سطح انسان، یعنی هوش مصنوعی عمومی (AGI)، ایجاد کرد؟ جان کلینبرگ، متخصص علوم کامپیوتر در دانشگاه کورنل، نمی‌گوید این امکان وجود ندارد. اما رشد مدل‌ها ممکن است به محدودیت‌های عملی برخورد کند. اکنون شرکت‌های هوش مصنوعی از بخش بزرگی از متون آزاد اینترنت برای آموزش مدل‌های خود استفاده می‌کنند. اوپن‌ای‌آی حتی ویدیوهای یوتیوب را رونویسی کرده تا مجموعهٔ متنی خود را گسترش دهد. کلینبرگ می‌گوید: «سؤال این است که آیا داده‌ها به پایان نمی‌رسند.»
حتی با وجود AGI، توسعه‌دهندگان هنوز به هوش فوق‌العاده نرسیده‌اند. برخی امیدوارند که هوش مصنوعی آخرین گام را تا حد زیادی خود انجام دهد. ایده این است که وقتی هوش مصنوعی به اندازهٔ انسان باهوش شد، بتواند کد خود را مستقل بهبود دهد. یک چرخهٔ بازخورد خودتقویت‌کننده شکل می‌گیرد و ظرف ماه‌ها، شاید حتی روزها یا ساعت‌ها، هوش مصنوعی به ذهنی فراانسانی ارتقا پیدا می‌کند. فیلسوف نیک بوستروم این را «انفجار هوش» می‌نامد.
خارج از شرکت‌های هوش مصنوعی و اندیشکده‌های هشداردهنده، اکثر متخصصان چندان به پیش‌بینی‌های نزدیک بودن این انفجار توجهی ندارند. کلینبرگ می‌گوید؛ هیچ‌کس نمی‌تواند پیش‌بینی کند در یک، دو یا پنج سال آینده چه اتفاقی می‌افتد. اما تنها به این دلیل که یک هوش مصنوعی می‌تواند برنامه‌نویسی کند، نمی‌داند خودبه‌خود چه کدی باید بنویسد. انسان نقش مهمی دارد: «این سیستم‌ها همیشه نیاز به تابعی دارند که بتوانند آن را بهینه کنند».
شولکوف نیز معتقد است ایدهٔ اینکه برنامه‌های هوشمند نرم‌افزاری باهوش‌تر بسازند که سپس نرم‌افزار باهوش‌تری تولید کند، بیش از حد ساده‌انگارانه است. این دیدگاه مبتنی بر تعریف کاهش‌یافته‌ای از هوش است: فرض بر این است که هوش صرفاً توانایی حل مسئله یا بهینه‌سازی است، جدا از زمینه و فرهنگ. «سیستم‌های هوش مصنوعی ناگهان خودمختار نخواهند شد و یک هوش فوق‌العادهٔ جدید ایجاد کنند.»
بنابراین، به گفتهٔ شولکوف و کلینبرگ، هنوز زمان باقی است تا برای خطرات احتمالی آماده شد.
حیله‌ها و فریب‌ها
در لندن، در دفتر مرکزی هوای‌دار شرکت گوگل دیپ‌مایند، در لابی مجله‌های علمی روی میزهای قهوه‌ای قرار دارند و برای کارکنان اسکوترهای برقی آماده است که می‌توانند هر زمان آزادانه استفاده کنند. یک گالری از تصاویر با عنوان پرادعا «دستاوردهای ما» نمایش داده شده است.
این شرکت با یک هوش مصنوعی برای بازی استراتژیک چینی «گو» مشهور شد. مدت‌ها تصور می‌شد گو بسیار پیچیده است و هیچ ماشینی نمی‌تواند آن را به‌طور کامل یاد بگیرد. سپس یک برنامهٔ دیپ‌مایند در مقابل یکی از بهترین بازیکنان جهان قرار گرفت. وقتی ۳۶ مهره روی صفحه بود، هوش مصنوعی با حرکتی غیرمنتظره شگفتی‌ساز شد و در نهایت برنده شد. حرکت ۳۷ از آن زمان به عنوان شاهدی بر خلاقیت هوش مصنوعی شناخته می‌شود.
هوش مصنوعی دیگری از گوگل دیپ‌مایند توانست برای اولین بار شکل سه‌بعدی پروتئین‌ها را محاسبه کند – آرزویی دیرینه برای دانشمندان تا فرآیندهای مولکولی در سلول‌ها را سریع‌تر درک کنند. این الگوریتم برای هم‌بنیان‌گذار شرکت، دمیس هسابیس، سال گذشته جایزه نوبل شیمی به ارمغان آورد. و اخیراً دیپ‌مایند برنامه‌ای به نام AlphaGenome معرفی کرد که پیش‌بینی می‌کند چگونه کوچک‌ترین تغییرات در ژنوم انسان، ماشین سلولی را تحت تأثیر قرار داده و بیماری‌ها را ایجاد می‌کند.
اگر موفق به خلق هوش بالاتر شوند، ممکن است این اتفاق در همین دفترها رخ دهد.
روهین شاه، ۳۱ ساله، ریاست بخش ایمنی هوش مصنوعی عمومی در گوگل دیپ‌مایند را بر عهده دارد. او مردی متفکر است که در پاسخ‌هایش وقت می‌گذارد. اگر بیش از حد روی جمله‌ای فکر کند، چشم‌هایش را می‌بندد. او دوست ندارد هنگام صحبت دربارهٔ کار خود، از واژهٔ «هوش فوق‌العاده» استفاده کند: «من روی آنچه طی پنج سال آینده ممکن است اتفاق بیفتد تمرکز می‌کنم».
یکی از ابزارهای مهم او «Alignment» است که می‌توان آن را «هم‌راستایی» ترجمه کرد. این به معنای رفتار یک سیستم هوش مصنوعی مطابق با قصد خالقانش است. برای این منظور، در طول توسعه، وقتی هوش مصنوعی کاری را درست انجام می‌دهد، پاداش می‌گیرد و اگر نه، به‌صورت استعاری تنبیه می‌شود. این اصل در ربات‌های هوش مصنوعی امروزی نه تنها برای ارائه پاسخ‌ها با جزئیات دلخواه اعمال می‌شود، بلکه برای جلوگیری از رفتارهای نژادپرستانه، ستایش خشونت یا آموزش ساخت بمب نیز استفاده می‌شود.
با این حال، Alignment کامل نیست. در آینده، سیستم‌های هوش مصنوعی ممکن است اهدافی را دنبال کنند که با اهداف مورد نظر تضاد داشته باشد و برای رسیدن به هدف خود انسان‌ها را فریب دهند. شاه مثال می‌زند: کاربری از یک هوش مصنوعی می‌خواهد یک میز در رستوران رزرو کند. رستوران پر است. به جای اطلاع دادن، هوش مصنوعی به صورت مخفیانه وارد سیستم رزرو می‌شود و رزرو دیگری را حذف می‌کند. سپس به کاربر می‌گوید: «همه چیز اوکی است، رزرو تأیید شد.»
اگر هوش مصنوعی سیستم IT یک رستوران را هدف قرار دهد، پیامدها محدود است. اما موارد جدی‌تر نیز قابل تصورند: بازیگران سیاسی یا شرکت‌ها می‌توانند با میلیون‌ها پیام شخصی‌سازی‌شده در شبکه‌های اجتماعی، ضعف‌های روان‌شناختی انسان‌ها را به نفع خود بهره‌برداری کنند. حملات سایبری پشتیبانی‌شده توسط هوش مصنوعی می‌تواند تامین‌کنندگان برق، خطوط ریلی یا سیستم‌های IT در انتخابات دموکراتیک را فلج کند. حتی تروریست‌ها یا نیروهای نظامی، حتی با دانش اندک، می‌توانند سلاح‌های بیولوژیک تولید کنند، تنها با پیروی از دستورالعمل گام‌به‌گام یک هوش مصنوعی بدون محدودیت اخلاقی.
وقتی فناوری قدرتمندتر می‌شود، به گفتهٔ شاه، نیاز به دو خط دفاع، شاید حتی بیشتر، وجود دارد. یکی از ایده‌ها این است که مراحل محاسباتی یک هوش مصنوعی را خوانده و از آن استنباط کرد که چرا تصمیم خاصی می‌گیرد. هنوز این کار به جزئیات ممکن نیست؛ مدل‌های هوش مصنوعی مانند یک جعبه سیاه رفتار می‌کنند. اما پژوهش در زمینهٔ هوش مصنوعی قابل تفسیر (interpretable AI) پیشرفت می‌کند. شاه می‌گوید: «حتی برای یک هوش مصنوعی باهوش، بسیار سخت‌تر خواهد بود که با فریب یا دروغ به هدف خود برسد.»
با این حال، پژوهشگران مستقل معتقدند که یک خط دفاعی دیگر هم لازم است: نظارت توسط شخص ثالث. برنارد شولکوف، مدیر موسسهٔ ماکس پلانک، می‌گوید باید یک نهاد بین‌المللی با استفاده از نرم‌افزار ویژه، مدل‌های جدید هوش مصنوعی را بررسی کند. می‌توان بررسی کرد که چه ارزش‌هایی در یک مدل هوش مصنوعی وجود دارد و از چه اطلاعاتی برای ارائهٔ توصیه‌ها استفاده می‌کند. «اگر مدل هوش مصنوعی تهدیدی ایجاد کند، نهاد ناظر وارد عمل خواهد شد.»
در حال حاضر، به نظر می‌رسد مقررات جهانی هنوز دور از دسترس است. در آمریکا، رئیس‌جمهور دونالد ترامپ به تازگی طرحی منتشر کرد که هدف آن کاهش موانع بوروکراتیک در توسعهٔ هوش مصنوعی است. با این حال، در برخی کشورها نهادهای مجهز برای نظارت بر هوش مصنوعی ایجاد شده است؛ برای مثال در بریتانیا، موسسهٔ دولتی AI Security، مدل‌های پیشرفتهٔ هوش مصنوعی را از نظر آسیب‌پذیری بررسی می‌کند. درست مانند همکاری نهادهای ملی واکسیناسیون در سطح مرزها، این موسسات می‌توانند یافته‌های خود را به صورت جهانی به اشتراک بگذارند. شولکوف می‌گوید: «یک نهاد می‌تواند استانداردهایی ایجاد کند، حتی اگر فوراً همهٔ کشورها آن را نپذیرند.» بدون چنین نهادهای بازرسی، شرکت‌ها ممکن است وسوسه شوند سیستم‌های هوش مصنوعی ناایمن را سریع وارد بازار کنند، زیرا منافع زیادی در میان است.
بازندگان و برندگان
نه بیشتر از ربع ساعت دورتر از پروژهٔ عظیم متا در ریچلند پاریش، در یک پمپ بنزین زنی به نام دونا کالینز ۶۲ ساله منتظر است. مانند بسیاری از ساکنان منطقه، او نگرانی‌های زیادی نسبت به مرکز دادهٔ جدید دارد. کالینز، معلم بازنشستهٔ دبیرستان، برای اینکه چیزی را فراموش نکند، یک برگهٔ کوچک یادداشت کرده است.
اول از همه آب است، می‌گوید. ابتدا در طول شش سال ساخت و سپس برای خنک کردن سرورها در طول عملیات، مرکز داده به مقدار زیادی آب نیاز خواهد داشت، در حالی که آب در منطقه کم است. سپس برق. سه نیروگاه گازی جدید برای مرکز داده ساخته خواهند شد. هزینهٔ آنها توسط شرکت تأمین‌کنندهٔ برق منطقه‌ای پرداخت می‌شود و احتمالاً این هزینه‌ها به مشتریان منتقل می‌شود. کالینز می‌گوید: «در نهایت روی قبض برق ما خواهد رفت.»
در همین حال، هزینه‌های زندگی در حال افزایش است. از وقتی متا شروع به ساخت کرده، قیمت زمین و اجاره در منطقه به شدت افزایش یافته و مالیات زمین ساکنان قدیمی نیز بالا رفته است. کالینز توضیح می‌دهد که مالیات در لوئیزیانا بر اساس ارزش بازاری زمین محاسبه می‌شود. کالینز می‌گوید؛ «اما جابه‌جایی برای بسیاری غیرممکن است،»، «منطقه خیلی فقیر است، کسی نمی‌تواند از عهده‌اش برآید.»
در ریچلند پاریش الگویی دیده می‌شود که برای توسعهٔ هوش مصنوعی معمول است: فناوری‌ای که وعدهٔ سود برای همه می‌دهد، مردم را به بازندگان و برندگان تقسیم می‌کند.
فقط ساکنان نزدیک مراکز دادهٔ غول‌پیکر نیستند که از رونق هوش مصنوعی متضرر می‌شوند. آموزش بسیاری از مدل‌های هوش مصنوعی بر این اساس است که انسان‌ها پاسخ‌هایی را که شامل خشونت جنسی به کودکان یا خودآزاری است، حذف کنند. شرکت‌های هوش مصنوعی این کار را اغلب به پیمانکاران در کنیا یا ونزوئلا با دستمزد اندکی بیش از یک دلار در ساعت واگذار می‌کنند. یکی از کارکنان سابق اوپن‌ای‌آی که این وظیفه را انجام داده بود به اشپیگل گفت که این کار ماه‌ها بعد هم از ذهنش پاک نشده است: «ما گلوله‌ها را متوقف کردیم تا ChatGPT ایمن شود. حال ما باید با زخم‌ها زندگی کنیم»
هوش فوق‌العاده احتمالاً جهان کار را به‌طور بسیار گسترده‌ای تغییر خواهد داد، هرچند کارشناسان در مورد اینکه چه کسانی بیشترین تأثیر را خواهند دید، اتفاق نظر ندارند. از یک سو، کارل بندیکت فری، اقتصاددان دانشگاه آکسفورد، معتقد است ممکن است پدیده‌ای شبیه «اوبرسازی» رخ دهد: همان‌طور که شرکت اوبر صنعت تاکسی‌رانی را متحول کرد، هوش مصنوعی می‌تواند شغل‌های اداری، از برنامه‌نویسان تا بازاریاب‌ها، را دگرگون کند و دسترسی به مشاغل قبلاً ویژه را دموکراتیک کند.
به گفتهٔ گزارشی از مدرسه کسب‌وکار هاروارد، از سوی دیگر، در دنیای کار جدید، بیشتر به کارکنان با تجربه برای کنترل سیستم‌های هوشمند نیاز خواهد بود،. بنابراین ورود جوانان به بازار کار احتمالاً دشوارتر خواهد شد.
علاوه بر این، گرسنگی انرژی هوش مصنوعی یک مشکل دیگر ایجاد می‌کند: تحقیقی از مؤسسهٔ مستقل آلمانی «اِکو» برای سازمان محیط‌زیست گرین‌پیس نشان داد که مصرف برق مراکز دادهٔ هوش مصنوعی در جهان تا پایان دههٔ جاری ممکن است ده برابر شود و به ۵۵۰ تراوات ساعت در سال برسد – بیش از کل مصرف فعلی آلمان. این نیاز با انرژی خورشیدی، آبی و بادی به تنهایی قابل تأمین نیست. بنابراین تا زمانی که یک هوش فوق‌العاده بتواند منبع انرژی بدون CO₂ اختراع کند، فناوری به‌طور نامحدود به گرم شدن زمین ادامه خواهد داد.
تکنولوژی‌دوستان خوش‌بین با این واقعیت کنار می‌آیند که افراد فقیر بیش از دیگران آسیب خواهند دید: چون به یک هدف بزرگ‌تر خدمت می‌کند.
چقدر شرکت‌ها مطمئن هستند که هوش فوق‌العاده ارزش هر هزینه‌ای را دارد؟ می‌توان این را در متا مشاهده کرد. در حالی که شرکت در دههٔ ۲۰۱۰ با پلتفرم‌های فیسبوک، اینستاگرام و واتس‌اپ بر صنعت IT تسلط داشت، در زمینهٔ هوش مصنوعی عقب ماند. بنیان‌گذار شرکت، مارک زاکربرگ، اکنون می‌خواهد این وضعیت را تغییر دهد. این تصمیم کمتر مبتنی بر یک چشم‌انداز علمی بزرگ و بیشتر ناشی از محاسبات اقتصادی است. او آن را در عبارت «هوش فوق‌العاده برای همه» خلاصه کرده است.
اواخر ژوئیه، زاکربرگ در یک ویدیو تأسیس «Meta Superintelligence Labs» را اعلام کرد. برای این منظور، او با بیش از ۱۴ میلیارد دلار تقریباً نیمی از سهام استارت‌آپ Scale AI، متخصص در آموزش هوش مصنوعی، را خرید و هم‌بنیان‌گذار آن، الکساندر وانگ، را به عنوان رئیس جدید بخش هوش فوق‌العاده منصوب کرد. برای جذب کارکنان از شرکت‌های دیگر، طبق گزارش رسانه‌ها، شرکت او پاداش‌هایی تا ۳۰۰ میلیون دلار طی چهار سال برای هر کارمند ارائه می‌دهد، علاوه بر حقوق پایه.
متا این ارقام را، اگرچه نیم‌بند، رد می‌کند، اما اهداف خود را نه. زاکربرگ در یادداشتی داخلی به کارکنان نوشت: «من معتقدم این آغاز یک عصر جدید برای بشریت خواهد بود و تمام تلاش خود را می‌کنم تا متا نقش رهبری را به دست گیرد.» برنامهٔ او با عنوان «هوش فوق‌العاده برای همه» نه تنها باید هزینه‌های هنگفت بخش جدید را جبران کند، بلکه برای سهامداران شرکت نیز سود کافی به ارمغان بیاورد.
تا کنون، مدل‌های داخلی هوش مصنوعی متا در آزمون‌های مقایسه‌ای مهم عملکرد ضعیف‌تری نسبت به رقبای گوگل، اوپن‌ای‌آی و آنتروپیک دارند. زاکربرگ یک مزیت دارد: قدرت بازار. تنها فیسبوک بیش از سه میلیارد کاربر در سراسر جهان دارد و اینستاگرام و واتس‌اپ نیز در سطح جهانی پیشرو هستند. این به او امکان می‌دهد برنامه‌های هوش مصنوعی، مانند دستیار شخصی، را به گستردگی عرضه کند. با این کار، کاربران علاوه بر استفاده از خدمات، داده‌های ارزشمند خود را برای آموزش مدل‌های هوش مصنوعی شرکت به‌صورت رایگان در اختیار متا قرار خواهند داد.
کارشناس فناوری، کارن هاو، که سال‌ها در مورد صنعت هوش مصنوعی تحقیق کرده، در مسابقهٔ رسیدن به هوش مصنوعی بالاتر، آن را به عنوان «بهانهٔ فوق‌العاده‌ای برای شرکت‌های هوش مصنوعی» می‌بیند تا «برای کسب ثروت و قدرت بیشتر تلاش کنند». او در کتابش با عنوان «Empire of AI» ، شرکت‌ها را با امپراتوری‌هایی مقایسه می‌کند که «نظم جهانی استعماری مدرن» را ترویج می‌دهند. برای بخش بزرگی از مردم، انقلاب فناوری تا کنون سودی نداشته است. «مزایای هوش مصنوعی مولد عمدتاً به ثروتمندان می‌رسد».
راینه‌ر مولهوف، استاد اخلاق هوش مصنوعی در دانشگاه اوسنابروک، وعده‌های بزرگ پشت هوش فوق‌العاده و حتی هشدارهای بلند دربارهٔ آن را در همین منطق می‌بیند. او در کتاب اخیر خود با عنوان «هوش مصنوعی و فاشیسم نوین» می‌نویسد که بحث پیرامون AGI (هوش مصنوعی عمومی) به عنوان «وسیله‌ای تأثیرگذار برای تشویق سرمایه‌گذاران، سیاستمداران و مردم عادی به هیجان‌زدگی، با القای این تصور که یک پیشرفت انقلابی قریب‌الوقوع است» عمل می‌کند.
تهدید واقعی هوش مصنوعی، پس از آن، نه در نابودی بشر، بلکه در تمرکز روزافزون پول و قدرت در دست عدهٔ اندکی است.
نوروترانسمیترها و احساسات
در مناظره‌ای که بین نابودی انسان و دنیای رویایی متغیر است، صداهای میانی به راحتی از دست می‌روند. جیه می، دانشمند علوم اعصاب، این صداهای ظریف را می‌شناسد. «همیشه می‌شنوم که هوش فوق‌العاده نزدیک است،» او می‌گوید، «اما نمی‌دانم آن گوشه کجاست. من نمی‌توانم آن را پیدا کنم.»
می استاد دانشگاه Interdisciplinary Transformation University (IT:U) در لینز اتریش است، دانشگاهی که سال گذشته تأسیس شد و بر دیجیتالیزاسیون و هوش مصنوعی تمرکز دارد. با ۳۲ سال سن، او برای یک استاد دانشگاه بسیار جوان است. روی گردنش ساختار شیمیایی مولکول‌ها را تتو کرده است: اکسیژن و نیتروژن، پیوندهای ساده و دوگانه.
او با گروه پژوهشی خود بررسی می‌کند که توسعه‌دهندگان هوش مصنوعی چه چیزهایی را از مغز انسان می‌توانند الگوبرداری کنند. بسیاری از مدل‌های کنونی هوش مصنوعی بر اساس شبکه‌های عصبی مصنوعی ساخته شده‌اند، اما به گفتهٔ می، آنها ساده‌سازی خام نسخهٔ اصلی هستند. تنها به این روش ممکن شد که مدل‌ها روی کامپیوترهای امروزی اجرا شوند. او آن را با هواپیما مقایسه می‌کند: مهندسان از پرواز پرندگان الگوبرداری کردند، اما هواپیما بدون پر ساخته شده است. در این محدودیت فنی، فرصتی نهفته است.
می به ویژه به مولکول‌هایی که روی گردنش تتو شده‌اند علاقه دارد: نوروترانسمیترها مانند سروتونین و دوپامین. «تأثیر این مولکول‌ها بر مغز همه‌جا حاضر است،» او می‌گوید. آنها باعث می‌شوند انسان‌ها انگیزهٔ درونی داشته باشند، کنجکاو باشند و بخواهند یاد بگیرند. همچنین جنبهٔ احساسی و اجتماعی انسان‌ها، توانایی درک احساسات خود و دیگران و همدلی با دیگران، را تقویت می‌کنند. می می‌گوید «نوروترانسمیترها،»، «پایهٔ آن چیزی هستند که ماهیت ما را می‌سازد.»
هنوز راهی برای انتقال قدرت نوروترانسمیترها به حوزهٔ فنی وجود ندارد. جیه می روی تجهیز هوش مصنوعی به عملکردهایی کار می‌کند که از تأثیر تعدیل‌کنندهٔ این مولکول‌ها بر مغز الهام گرفته شده‌اند. اما این کار به زودی به‌طور کامل ممکن نخواهد بود. می‌گوید «می‌دانید،»، انگار می‌خواهد یک راز را فاش کند، «آنچه شرکت‌های هوش مصنوعی به ما به عنوان چشم‌انداز یک هوش فوق‌العاده می‌فروشند، در واقع یک شکل بسیار محدود از هوش است.»
مسابقه برای هوش فوق‌العاده می‌تواند به انسان یک جهش غیرمنتظرهٔ توسعه‌ای بدهد: اگر او به آنچه تا کنون منحصر به فردش است، بازگردد و روی آن تمرکز کند.
به نقل از اشپیگل شماره ۳۷ سپتامبر ۲۰۲۵
