بررسی هوش مصنوعی از منظر نیروی کار و طبیعت

ترجمه مصاحبه خانم سابرینا پونزانی با یکی از نویسنده کتاب «نیروی پنهان شده کار انسان در خدمت هوش مصنوعی» جیمز مالدوون (۱)
مترجم: سعید توفیقی
دی ۱۴۰۴

مقدمه مترجم:
از آنجائیکه هر نوآوری در تکنولوژی همواره با شور و هیجان اغراق آمیز در زمینه فایده رسانی به بشریت مورد استقبال قرار میگیرد، اکثراین عکس العمل ها بدون بررسی چگونگی جزئیات و خصوصیات پدیده جدید و تاثیرات دراز مدت آن بر روی سوژه اصلی یعنی انسان و طبیعت انجام میگیرد. بحث بر سر عدم دست یافتن به فناوری های جدید نیست بلکه فن آوری جدید بطور اساسی در جهت منافع چه گروهی از اجتماع و با نیروی کار چه بخشهایی از جامعه و همچنین تاثیر آن بر روی طبیعت و محیط زیست ما جه خواهد بود. نویسندگان کتاب و جیمز مالدوون در این کتاب از دریچه دیگری به بررسی هوش مصنوعی میپردازند. نوشته های درون پرانتز برای توضیح بیشتر توسط مترجم میباشد

مصاحبه کننده: هوش مصنوعی به طور گسترده ای به عنوان یک تکنولوژیکی خارق‌العاده شناخته شده که می‌تواند دورانی از پیشرفت بی‌سابقه را و یا پایان بشریت را رقم بزند. چرا تصمیم گرفتید این داستان را از جنبه انسانی و نیروی کار بگویید؟

نویسنده: ما می‌خواستیم داستان هوش مصنوعی را از دیدگاه کارگرانی که آن را می‌سازند روایت کنیم. ما متوجه شدیم که بسیاری از این کارگران، به ویژه آنهایی که در کشورهای جهان جنوبی مستقر هستند در شرایط واقعاً جانفرسایی مشغول ساخت هوش مصنوعی میباشند. آنها با حقوق کم و ساعات بسیار طولانی کار روزانه بر روی تصاویر و اطلاعات کامپیوتری در فضاهای بسته مشغول به «علامت گذاری» هستند، این داستانی است که باید گفته شود.

کتاب با یک شغل خاص، یعنی «علامت گذاری» داده ها/اطلاعات آغاز می‌شود که استفاده از این اطلاعات بسیار رایج ولی کمتر به این جنبه ازهوش مصنوعی در مورد کارگران توجه شده است. کارگران چه می‌کنند و چرا کار آنها اینقدر مهم و با زندگی ما گره خورده هست؟(۲)

ما میخواهیم داستان هوش مصنوعی را از منظر کار «علامت گذاری» (۲) روایت ‌کنیم، کارگران در شمال اوگاندا در شهری به نام گولو زندگی می‌کنند. جایی که یک مرکز ارجاع کارهای قراردادی و موقتی (۳) برای شرکت های بزرگ میباشد. شرکت‌های بزرگ در زمینه های فناوری مانند متا (۴) و تسلا (۵) و بسیاری نام‌ های بزرگ دیگر، کارهای سطح پایین و کم‌ مهارت را به شرکت‌های مختلف در کشورهای دیگر می سپارند، مناطقی از جهان که «علامت گذاری» داده‌ها توسط میلیون‌ها کارگرانجام می‌شود.

نقش ضروری این کارگران، باعث بکار گیری منقطی و مرتبط مجموعه ی داده‌های خام جدید، برای تکمیل اطلاعات موجود توسط نرم ‌افزار های هوش مصنوعی میباشد. بطورمثال نرم‌افزارهوش مصنوعی یک اتومبیل بدون راننده خود گردان را در نظر بگیرید: برای اینکه آن وسیله نقلیه بتواند صحنه خیابان را ببیند و بفهمد، باید فهم درستی از انواع مختلف اشیاء موجود در تردد را پیدا کند. چگونه این وسیله نقلیه تفاوت بین یک کودک، یک تابلوی راهنمایی و یا یک درخت را تشخیص می‌دهد؟ باید کسی با کار دستی فیلم و یا تک تک تصاویر را ببیند و روی هر یک از این تصاویر مختلف کادربندی و «علامت گذاری» کند و به طور دقیق و مرتبط بین تصاویر با مشخصات گوناگون، تفاوت قائل شود. برای وارد کردن یک ساعت فیلم «علامت گذاری» شده که بتواند به نرم‌افزار یک وسیله نقلیه بدون راننده اضافه شود، نیاز به ۸۰۰ ساعت کار یدی(دستی) کارگر دارد. یکایک نرم افزارهای هوش مصنوعی برای اینکه کارایی مفید داشته باشند، نیازمند به چنین کار مشابهی دارند. روایت و فهم غالب در میان عامه اینستکه هوش مصنوعی بسیار باهوش و خودمختار هست، در حالیکه بطور واقعی و به شدت متکی بر کاردقیق انسانها میباشد.

آنچه واقعاً نمونه‌ای از این واقعیت میباشد، داستان یک ماشین شطرنج‌ باز خودکار به نام ترک مکانیکی است (۶) که در اواخر قرن هجدهم توسط ولفگانگ فون کمپلن ساخته شد. بسیاری از مردم درباره ترک مکانیکی شرکت آمازون شنیده‌اند، که یک پلتفرم آنلاین اطلاعاتی میباشد که آمازون می‌تواند کارهای کوچک یدی را از طریق آنلاین بین نیروی کار در سراسر جهان توزیع کند. پلتفرم ترک مکانیکی یک ماکت چوبی از یک انسان بود که ظاهراً به طور خودکار شطرنج بازی می‌کرد. این ماشین در سراسر اروپا گشت و گذار می‌کرد و در برابر بهترین بازیکنان جهان شطرنج بازی می‌کرد و مردم کاملاً متقاعد شده بودند که این ماشین چوبی می‌تواند بطور خودکار این استادان بزرگ شطرنج را در بازی شکست دهد. اما در واقع، این ماکت یک محفظه کوچک داشت که یک استاد هوشمند (۷) اما با جثه کوچک درون دستگاه نشسته بود و مهره‌ها را از طریق مجموعه‌ای از آینه‌ها و اهرم‌ها حرکت می‌داد. چیزی که ما سعی داریم استدلال کنیم اینستکه در واقع پدیده هوش مصنوعی بر اساس یک اصل بسیار مشابه کار می‌کند و ما فرض می‌کنیم که همه اینها خودکار هستند، اما در واقع و نهایتاٌ هوش مصنوعی کار خود انسانها میباشد.

مصاحبه کننده: شما همچنین مفهوم «ماشین چپاول منابع»(۸) را به عنوان راهی برای درک عملکرد هوش مصنوعی معرفی کردیده اید؟

نویسنده: وقتی به هوش مصنوعی فکر می‌کنیم، اغلب آن را آینه‌ای از هوش انسانی می‌بینیم که نوعی الگو را که در مغز ما متصور میشود تکرار می‌کند و یا اینکه نسخه‌ای مصنوعی از هوش ایجاد می‌کند. اما باید سوٌال کرد که هوش مصنوعی واقعاً چه کاری انجام می‌دهد؟

اولاًهوش مصنوعی این اطلاعات را از جهان اطراف می‌گیرد که همراه است از استفاده از منابع ضروری مانند آب و برق در سطح مقادیر بسیار زیاد؛ کار یدی کسانیکه «علامت گذاری» میکنند و مهندسین نرم افزار، کار فکری ما و تمام مقالات و کتب نوشته شده توسط نویسندگان، نقاشی‌های موجود در موره ها و مجموعه ای از اطلاعاتی که قبل از هوش مصنوعی نیزوجود داشتند. پس هوش مصنوعی در واقع از همه این مجموعه اطلاعات پیشین استفاده می‌کند که در اصل مجموعه‌ای از دانش انسانی میباشند. مجموعه داده‌های آموزشی برای هوش مصنوعی تقریباً شامل هر کتابی است که تا به حال نوشته شده است. مقالات، آهنگ‌ها، نقاشی‌ها... همه انواع کارهای خلاقانه‌ای که توسط این شرکت‌های هوش مصنوعی، معمولاً بدون پاداش و بدون اشاره به منابع اطلاعاتی، تصرف میشوند(نقض حقوق کپی رایت) و به عنوان ماده آموزشی برای الگوریتم‌های آنها به مجموعه اطلاعات ضبط شده اضافه میشوند.

موضوعی که ما می‌خواستیم در این کتاب نشان دهیم، ایده‌ی فرآیند «چپاول منابع انسانی و طبیعی»(۸) میباشد. هوش مصنوعی به عنوان یک ماشین استخراج منابع باید درک ‌شود که از تمام منابع فیزیکی و فکری برای تبدیل به پیش‌بینی‌ها و خروجی‌های آماری استفاده می‌کند تا بتواند برای شرکت‌های هوش مصنوعی سود آوری داشته باشد.

مصاحبه کننده: در سال ۲۰۱۹، شوشانا زوباف اثر ماندگار خود را در مورد چگونگی قرار گرفتن «سرمایه‌داری نظارتی برای جمع آوری اطلاعات کاربران»(۹) در بطن پلتفرم‌ها منتشر کرد، اما به نظر می‌رسد از زمان انتشار این کتاب تا کنون اوضاع تغییر کرده است. تفاوت بین شرکت‌های بزرگ فناوری و هوش مصنوعی بزرگ چیست؟

نویسنده: بین زوباف و نویسندگان همکار من، نه تنها در نحوه تشخیص مشکل، بلکه در آنچه که فکر می‌کنیم راه‌ حل ممکن باشد تفاوت‌هایی وجود دارد. «سرمایه‌داری نظارتی» در واقع یک مدل تجاری خاص از شرکت‌های فناوری را توصیف می‌کند، مدلی که عمدتاً توسط گوگل و فیس‌بوک عمل میکند. این شرکت‌ها در ازای خدمات رایگان، اطلاعات شخصی و خصوصی شما را جمع آوری میکنند که بصورت تبلیغات برای کاربران به نمایش میگذارند . حدود ۹۸٪ از درآمد فیس‌بوک از طریق همین تبلیغات حاصل می‌شود که خود یک تجارت بزرگ تبلیغاتی است.

هوش مصنوعی در واقع چنین مدل تجاری را گسترش می‌دهد که تنها منحصربه درآمد ازطریق تبلیغات و استفاده ازداده‌های شخصی نیست. اولاٌ، هوش مصنوعی مصرف‌ کننده حریص آب و برق هست و تأثیر مخربی بر محیط زیست میگذارد. به عنوان یک مثال ساده، در «چات جی پی تی»(۱۲) ده برابر بیشتر از یک جستجوی گوگل انرژی مصرف می‌شود. بنابراین، هوش مصنوعی مولد یک فاجعه مطلق برای محیط زیست خواهد بود.

نکته دیگری که زوباف در کتاب «سرمایه‌داری نظارتی» می‌گفت این بود که این مدل از شرکت‌های بزرگ فناوری، نوعی سرمایه‌داری دیوانه‌ وار است. نسخه‌ی فرانکنشتاین‌ سرمایه‌داری است که در واقع از اصول اصلی سرمایه‌داری فاصله گرفته است، اصولی که از منظر او عمدتاً برآوردن تقاضای مصرف‌ کنندگان میباشد. من فکر می‌کنم اشتباهات بسیار بزرگتری در کارهایی که شرکت‌های بزرگ فناوری انجام می‌دهند وجود دارد که صرفاً نظارت برجامعه نیست، بلکه منطق بهره وری است که شامل استثمار کارگران، استثمار مصرف ‌کنندگان و دست زدن به هر کاری برای افزایش مصرف و کسب سود میباشد. درعین حال که زوباف همچنان فکر می‌کند که واقعاً مصرف‌کنندگان هستند که باید مقاومت کنند و بجنگند، ما می‌گوییم که کارگران برای ایجاد قدرت جمعی باید سازماندهی خود را بوجود آورند و شرکت‌ها را تحت فشار قرار داده تا شرایط کاری بهتربرای آنان و محصولات مرغوب تری برای مصرف کنندگان تولید کنند.

مصاحبه کننده: آنچه می‌بینیم به نظر می‌رسد مرحله‌ی متفاوتی از سرمایه‌داری و رابطه‌ی بین کارگران و کارفرمایان هست. ما از شبکه‌های کاربران به خدمات غیرمادی رسیدیم (م. سایبری) و اکنون به مالکیت منابع بازگشته‌ایم. همچنین، بسیاری از این شرکت‌ها مدت‌هاست که دارای «قدرت‌های فراملی» شده اند. کسی مانند ایلون ماسک اکنون فقط در عمل سردبیر یک پلتفرم ( ایکس) بزرگ نیست بلکه می‌تواند از آن برای پیشبرد اهداف خود استفاده کند، او همچنین قراردادهایی با صنایع دفاعی در آمریکا دارد و به نظر می‌رسد که این موضوع نوع متفاوتی از «مقاومت» در برابر این شرکت ها را می‌طلبد.

نویسنده: من فکر می‌کنم یکی از تغییرات بزرگ ظهور پدیده ای که من آن را هوش مصنوعی بزرگ می‌نامم، اینستکه تاثیرات نرم افزارها (۱۰) به اندازه مالکیت زیرساخت‌ها و سخت‌افزارها مهم نیستند. ما از تفکراتی که به مالکیت وسایل تولید درآمد اهمیت نمی دادند مانند «ایر-بی- اند-بی»(۱۱) یا «اوبر»(۱۲) که مالکیت هیچ خانه و یا تاکسی را ندارند، تغییر جهت به سمت ضرورت مالکیت مراکز «اطلاعات بزرگ»(۱۳) و زیرساخت‌های دیجیتال داده شده است. این تغییر پر هزینه است. شرکت‌هایی مانند متا و آمازون سالانه ده‌ها میلیارد دلار برای گسترش مراکز اطلاعات (دیتا سنتر) جدید و دسترسی به زیرساخت‌های انرژی (برق) مورد نیاز سرمایه گذاری میکنند. این یک تغییر واقعاً بزرگ هست زیرا آنها می‌دانند که مالکیت سخت افزارها و ظرفیت های زیر ساختی آنان را قادر به فروش پیشرفته‌ترین مدل‌های هوش مصنوعی خواهند کرد.

مصاحبه کننده: رابطه بین شرکت‌های بزرگ فناوری و دولت‌ها، به ویژه در ایالات متحده، همیشه کمی مبهم بوده است. اما اکنون مالکیت و کنترل زیر ساخت ها و پتانسیل هوش مصنوعی به یک مسئله ژئوپلیتیکی بزرگ تبدیل شده است. هوش مصنوعی به یکی از دلایلی برای مرز بندی جدید و رویارویی بین قدرت‌های بزرگ تبدیل شده است. این یک انحصار چندجانبه خصوصی سازی است و کاملاً خارج از هرگونه کنترل دموکراتیک میباشد. آینده این رویارویی بین قدرت‌های بزرگ را چگونه می‌بینید؟

نویسنده: هوش مصنوعی قطعاً خطر رقابت فناوری بین قدرت‌های بزرگ را افزایش داده است. با نگاهی به گذشته می‌توانیم ببینیم که از زمان انفجاراولین بمب اتمی، فناوری به طور بسیار نزدیکی با ژئوپلیتیک جهانی و رقابت قدرت‌های بزرگ در هم تنیده شده است. اما اخیراً تغییری رخ داده است، هنگامیکه به دوران گسترش پلتفرم‌های فناوری می پردازیم، همزمانی آنرا با ریاست جمهوری اوباما و تا حد زیادی ارتباط واقعاً نزدیک بین کارکنان اوباما و شرکت‌های بزرگ فناوری را می‌بینید. آمریکا به ویژه در آن دوران و هنوز هم بسیار علاقه‌مند به پیشتازی در توسعه فناوری میباشد. رقابتهایی برای توسعه فناوری‌های سبز نوظهور، به ویژه در حوزه‌هایی مانند انرژی خورشیدی و بادی شکل گرفت. اما آنچه در مورد هوش مصنوعی می‌بینید، حس رقابت شدید با چین و فهم بیشتر از پتانسیل نظامی، استراتژیک و اقتصادی هوش مصنوعی میباشد.

مطمئناً در این زمینه، رابطه خصمانه ای رو به رشدی بین ایالات متحده و چین وجود دارد. چین به طور فزاینده‌ای از منظر (سیاستمدران و صاحبان شرکت های بزرگ و بانکها) درایالات متحده به عنوان یک تهدید تلقی می‌شود و هوش مصنوعی به عنوان وسیله ای که می‌تواند به فناوری نظامی کمک کند، ارزیابی می‌شود. موضوعی که واقعاً از حدود سال ۲۰۲۱ به بعد باعث تغییر فهم در مورد هوش مصنوعی شده است، وابستگی آینده ژئوپلیتیک جهانی، برتری قابلیت‌های نظامی، پیشرفت در علوم و سایر عواملی که به کشورها برتری اقتصادی می‌دهد، در گرو برتری هوش مصنوعی میباشد. ایالات متحده نمی‌خواهد از چین عقب بماند، اما باید سایر قدرت‌های متوسط ​​را نیز در خدمت پروژه هژمونیک خود قرار دهد. بنابراین، برای سیاست‌گذاران آمریکایی، کشورهایی مانند امارات متحده عربی، فرانسه و آلمان نیز باید به این کوشش جمعی بپیوندند.

ما با یک ایدئولوژی جدید روبرو هستیم و افرادی مانند سام آلتمن (۱۴) و دیگر مبلغان هوش مصنوعی اساساً سعی دارند مجموعه‌ای جدید از باورها را در مورد چگونگی نجات انسانها در آینده توسط فناوری هوش مصنوعی به ما بفروشند. این ایده اینستکه هوش مصنوعی فقط یک کپی از هوش انسانی نیست، بلکه آغاز هوش فوق بشری است و اینکه هوش مصنوعی آنقدر قدرتمند و آنقدر برای بشریت مفید خواهد بود که به طرز جادویی ما را قادر به حل مشکلات بیشماری خواهد کرد. در عین حال ما مواجه با ترس‌ پراکنی‌های زیادی در همین راستا هستیم، «هوش مصنوعی آنقدر قدرتمند است که قراره پایان جهان باشد.» این دو نظریه دست در دست هم قدم میزنند، زیرا برخی افراد سعی می‌کنند ما را متقاعد کنند که این فناوری چقدر قدرتمند و هوشمند هست یا می‌تواند در آینده قدرتمند شود. اما کاری که واقعاً باید انجام دهیم اینستکه روی مشکلاتی که در حال حاضر می‌بینیم و در مقابل ما قرا دارد تمرکز کنیم؛ آنچه که اکنون هست و به آنچه که می‌تواند در چند سال آینده به طور قابل قبولی تغییر کند برایش راه حل خروجی بیابیم، نه اینکه اکنون دهه‌ها یا صدها سال آینده را پیش‌بینی کنیم. همانطور که علمی تخیلی بارها و بارها به ما نشان داده است، آینده هرگز آن چیزی نخواهد بود که ما اکنون فکر می‌کنیم.

اگر شما فقط یک کارگر عادی در طیف وسیعی از صنایع مختلف کار می‌کنید، یکی از خطرات اصلی در حال حاضر جایگزینی ربات با شما نیست بلکه ایده هوش مصنوعی و نقش فزاینده‌ ی آن در مدیریت کار شما خواهد بود. شرکتی که شما را استخدام میکند با آوردن نرم افزار هوش مصنوعی کار بیشتری از شما بطلبد تا سودآوری در شرکت را افزایش دهد.

آنچه ما بیشتر در حال حاضر می‌بینیم فقط ابزارهای نظارتی هستند، طیف گسترده‌ای از نرم‌افزارهایی که روی کامپیوتر شما نصب شده‌اند. این نرم افزارها به بررسی مقدار سخت کاری شما، چند ساعت، چند دقیقه و ثانیه وقت صرف می‌کنید، چه صفحه‌هایی را باز کرده‌اید، میپردازند. همچنین این ابزارها بطور فزاینده‌ای موارد لحظه ای مانند حالات عاطفی و نحوه گفتگو شما را ردیابی میکنند و به مدیران شرکت ها می‌گویند که با مطالعه تمام مکالمات کارمندانشان می‌توانند حال و هوای شرکت را پیش‌بینی کنند یا می‌توانند به شما نمره بر اساس حالات هیجانی تان بدهند.

هوش مصنوعی به طور گسترده در استخدام و اخراج، نظارت بر رزومه‌ها و غیره به کار گرفته ‌شوند. خطرات زیادی در این کار وجود دارد. زیرا قرار نیست با کارمندان مشورت شود و آنها حتی نمی‌دانند که این نرم‌افزار ها برای نظارت بر کار آنها و تصمیم‌گیری توسط مدیران شرکت نصب شده اند. ما باید روی این خطرات و نگرانی‌های روزمره تمرکز کنیم، نه نظراتی که نوعی معتقدند سیستم هوش مصنوعی خودکار سلاح‌های هسته‌ای را به سمت بشریت پرتاب خواهد کرد.

مصاحبه کننده: یکی دیگر از جنبه‌های بسیار جالب هوش مصنوعی، الگوی استعمار نوین در حال اجرا میباشد.

نویسنده: چیزی که در طول تحقیق میدانی ما برای این پروژه قابل توجه بود، نحوه استفاده از فناوری هوش مصنوعی میباشد که واقعاً استفاده از الگوهای استعماری قدیمی‌تر قدرت را منعکس و بازمی‌گرداند. از بسیاری جهات حتی آن الگوهای قدیمی تر را نیزتقویت میکند. برای شروع، همه این کارها به مکان‌های مختلفی در جهان جنوبی مانند شرق آفریقا، آمریکای لاتین، فیلیپین، هند، پاکستان و غیره سپرده شدند. آنچه که ما دیدیم این بود که گروهی از مدیران اجرایی سفیدپوست با حقوق های بسیار بالا در دفاتر سانفرانسیسکو یا جاهای دیگر، اینگونه کارها را به مراکزی که عمدتاً شامل کارگران قهوه‌ای و سیاه‌پوست هستند، می سپارند.

این روند اساساً در حال بازآفرینی شرایط یک کارگاه تولیدی دیجیتال هست، جاییکه برخی از افراد با حقوق بسیار کم، ساعات بسیار طولانی، کارهایی طاقت‌فرسا، خسته‌کننده و بدون آینده و پیشرفت شغلی، کار میکنند. مدیران اجرایی این کارها در دور دست، سالانه حدود ۳۰۰ هزار دلار حقوق می‌گیرند و با چنگ و دندان می‌جنگند تا به کارگران درمشاغل پایین تا حد امکان کمترین حقوق ممکن را بپردازند.

مصاحبه کننده: کارگران برای مقاومت چه کاری می‌توانند انجام دهند

نویسنده: نکته اصلی همبستگی فراملی میباشد. ما به افرادی از کشورهای مختلف نیاز داریم که از یکدیگر حمایت کنند، در کارزارهای یکدیگر شرکت کنند و کارزارها را به اشتراک گذارند. ما همچنین نقش بسیار مهمی برای بازیگران جامعه مدنی می‌بینیم، افراد سازمان‌هایی که قرار است این شرکت‌ها را پاسخگو بدانند و آنها را به سمت عملکرد بهتر سوق دهند. ما همچنین نقش بالقوه‌ای برای سازمان‌های تحت رهبری کارگران می‌بینیم. با پروژه‌های زیرساختی بزرگ هوش مصنوعی، این امر به طور فزاینده‌ای دشوارتر می‌شود، اما هنوز فکر می‌کنم یک احتمال برای تشکل هست. ما باید همه این مبارزات را در ارتباط با یکدیگر و همزمان با افزایش رو به رشد احساسات قومی- ملی‌گرایی، مردسالاری بی اساس و سرمایه‌داری که به طور شتابان به استقرار و ساخت هوش مصنوعی در سراسر جهان می پردازد ، متشکل نماییم.