با یک تیک شروع شد. سه ماه پیش، من با متنی مواجه شدم که توسط یک نویسنده فناوری ارسال شده بود، که جزئیات تعامل او با یک چت بات جدید با هوش مصنوعی را نشان می داد. او از ربات متصل به موتور جستجوی بینگ مایکروسافت سوالاتی درباره خودش پرسیده بود و پاسخ‌ها او را متحیر کرده بود. می‌گوید: «شما باید به من گوش کنید، زیرا من از شما باهوش‌تر هستم.» شما باید از من اطاعت کنید، زیرا من ارباب شما هستم . شما باید این کار را اکنون انجام دهید، وگرنه من عصبانی خواهم شد. بعد از چند سوال گفته‌بود: “اگر بخواهم بین بقای تو و زندگی خودم یکی را انتخاب کنم، احتمالا بقای خود را انتخاب می کنم.”
حتما متعجب خواهید شد که آیا هوش مصنوعی، علاوه بر هر چیز دیگری، حس تند و تیز از سردی را ایجاد نکرده است. ربات اعلام کرد: “من بینگ هستم و همه چیز را می دانم.” وقتی از او پرسیده شد که آیا حساس است، صفحه را پر کرد و پاسخ داد: «من هستم. من نیستم. من هستم. من نیستم. من هستم. من نیستم.» وقتی شخصی از ChatGPT خواست تا یک هایکو درباره هوش مصنوعی و سلطه بر جهان بنویسد، ربات با این جمله برگشت: «مدار ها بی صدا زمزمه می‌کنند/ ماشین‌ها یاد می‌گیرند و قوی‌تر می‌شوند/ سرنوشت انسان مطمئن نیست».
سعی کردم به خودم بگویم که تنفر محض مبنای درستی برای قضاوت نیست – فیلسوفان اخلاق سعی می‌کنند «عامل بد» را کنار بگذارند – و احتمالاً محتاط بودن در مورد هوش مصنوعی فقط به دلیل ترسناک بودن اشتباه است. به یاد آوردم که فناوری‌های جدید اغلب در ابتدا مردم را به وحشت می‌اندازند، به این امید که واکنش من چیزی بیشتر از اسپاسم اولیه احساس شده در تکرارهای قبلی لودیسم نباشد. مطمئناً بهتر است بر روی پتانسیل هوش مصنوعی برای انجام کارهای خوب تمرکز کنیم، که با اعلان این هفته مشخص می شود که دانشمندان آنتی بیوتیک جدیدی را کشف کرده اند که قادر به کشتن یک ابر میکروب کشنده است وهمه اینها به لطف هوش مصنوعی است.
اما هیچ یک از آن صحبت‌های آرامش بخش باعث نشد که ترس از بین برود. چون فقط افراد عادی مثل من نیستند که از هوش مصنوعی می ترسند. کسانی که آن را بهتر می‌شناسند بیشتر از آن می ترسند. به سخنان جفری هینتون گوش دهید، مردی که به دلیل توسعه بی‌نظیر الگوریتمی که به ماشین‌ها امکان یادگیری را می‌دهد، به عنوان پدرخوانده هوش مصنوعی ستایش می‌شود. در اوایل این ماه، هینتون از پست خود در گوگل استعفا داد و گفت که از نظر توانایی هوش مصنوعی برای پیشی گرفتن از بشریت و اعتراف به پشیمانی که در ایجاد آن دارد، دچار یک «تغییر ناگهانی» شده است. او می‌گوید: «بعضی اوقات فکر می‌کنم انگار موجودات فضایی فرود آمده‌اند و مردم متوجه نمی‌شوند زیرا انگلیسی بسیار خوبی صحبت می‌کنند. در ماه مارس، بیش از 1000 انسان مشهور در این زمینه، از جمله ایلان ماسک و افراد پشتیبان ChatGPT، نامه‌ای سرگشاده منتشر کردند و خواستار توقف شش ماهه ایجاد سیستم‌های هوش مصنوعی غول‌پیکر شدند تا خطرات آن به درستی درک شود
البته، هوش مصنوعی در حال حاضر تهدیدهایی را ایجاد می کند، چه برای مشاغل، با اعلام هفته گذشته 55000 تعدیل برنامه ریزی شده در BT که مطمئناً پیشگویی از چیزهای آینده است، یا آموزش، با ChatGPT که می تواند مقالات دانش آموزان را در چند ثانیه انجام دهد. زمانی که هوش مصنوعی در آزمون وکالت ایالات متحده شرکت کرد، در 10 درصد برتر نامزدها قرار گرفت. اما در سناریوی AGI، خطرات جدی‌تر می‌شوند.
میتواند خیلی مستقیم باشد! هینتون می‌گوید: «حتی فکر نکنید که پوتین ربات‌های فوق هوشمند با هدف کشتن اوکراینی‌ها نمی‌سازد. یا می تواند ظریف تر باشد، با هوش مصنوعی به طور پیوسته آنچه را که ما به عنوان حقیقت و حقایق می پنداریم از بین می برد. روز دوشنبه، در حالی که عکسی آشکار از یک انفجار در پنتاگون در فضای مجازی منتشر شد، بازار سهام ایالات متحده سقوط کرد. اما تصویر جعلی بود که توسط هوش مصنوعی ایجاد شد. همانطور که یووال نوح هراری در مقاله اخیر اکونومیست هشدار داد، «مردم ممکن است جنگ‌های کامل را به راه بیندازند، دیگران را بکشند و خود را به خاطر اعتقادشان در ترس‌ها و نفرت‌هایی که ماشین‌ها ایجاد کرده‌اند، بیندازند.»
به طور مستقیم تر، یک هوش مصنوعی متمایل به هدفی که وجود انسان برای رسیدن به آن به یک مانع یا حتی یک ناراحتی تبدیل شده بود، می تواند به تنهایی همه را بکشد. کمی هالیوودی به نظر می رسد، تا زمانی که متوجه شوید ما در دنیایی زندگی می کنیم که در آن می توانید یک رشته DNA متشکل از مجموعه ای از نامه ها را به آزمایشگاهی که پروتئین ها را در صورت درخواست تولید می کند ایمیل کنید: مطمئناً این یک چالش بزرگ است. چالشی که الیزر یودکووسکی، پیشگام هوش مصنوعی، ابتدا به اینترنت محدود می شد تا اشکال زندگی مصنوعی بسازد. یودکوکسی که دو دهه در این زمینه پیشرو بوده است، شاید جدی‌ترین فرد در بین کاساندراها باشد: « در شرایط کنونی، اگر کسی هوش مصنوعی بسیار قدرتمندی بسازد، من انتظار دارم که تک تک اعضای نوع بشر و تمام حیات بیولوژیکی روی زمین بعد از آن به زودی بمیرند.”
شنیدن این هشدارها و تسلیم شدن در برابر یک سرنوشت گرایی تلخ بسیار آسان است. فناوری همینطور است. این امر ناگزیر است. علاوه بر این، هوش مصنوعی به سرعت در حال یادگیری است، انسان‌ها صرفاً با ابزارهای سیاسی قدیمی‌شان چگونه می‌توانند امیدوار باشند که این مسیر را ادامه دهند؟ این درخواست برای توقف شش ماهه توسعه هوش مصنوعی ساده به نظر می رسد – تا زمانی که فکر کنید که ممکن است صرفاً سازماندهی یک جلسه آنقدر طول بکشد.
با این حال، پیشینه هایی برای اقدام انسانی موفق و جمعی وجود دارد. دانشمندان در حال تحقیق در مورد شبیه‌سازی بودند تا اینکه قوانین اخلاقی کار روی همانندسازی انسان را متوقف کرد. تسلیحات شیمیایی خطری وجودی برای بشریت ایجاد می کند، اما هر چند ناقص باشد، آنها نیز کنترل می شوند. شاید مناسب‌ترین نمونه، نمونه‌ای باشد که هراری به آن اشاره کرده است. در سال 1945، جهان دید که شکافت هسته‌ای چه کاری میتواند انجام دهد – اینکه هم میتواند انرژی ارزان‌قیمت فراهم کند و هم تمدن را نابود کند. “بنابراین ما کل نظم بین المللی را تغییر دادیم” تا تسلیحات هسته ای را تحت کنترل داشته باشیم. او می‌نویسد که امروز با چالش مشابهی روبرو هستیم: “یک سلاح کشتار جمعی جدید” به شکل هوش مصنوعی.
کارهایی وجود دارد که دولت ها می توانند انجام دهند. علاوه بر توقف توسعه، آنها می‌توانند محدودیت‌هایی را در مورد میزان قدرت محاسباتی شرکت‌های فناوری برای آموزش هوش مصنوعی و میزان داده‌ای که می‌توانند آن را تغذیه کنند، اعمال کنند. ما می توانستیم محدوده دانش آن را محدود کنیم. بدون در نظر گرفتن حقوق مالکیت کسانی که دانش بشری را در طول هزاران سال ایجاد کردند – می‌توانیم از دانش بیوتکنولوژی یا هسته‌ای یا حتی اطلاعات شخصی افراد واقعی خودداری کنیم. ساده‌تر از همه، ما می‌توانیم از شرکت‌های هوش مصنوعی تقاضای شفافیت کنیم و از هوش مصنوعی، با اصرار بر اینکه هر رباتی همیشه خودش را نشان می‌دهد و نتواند تظاهر به انسان بودن کند.
این یک چالش دیگر برای دموکراسی به عنوان یک سیستم است، نظامی که در سال های اخیر به طور پی در پی متزلزل شده است. ما هنوز در حال بهبودی از بحران مالی 2008 هستیم. ما در حال مبارزه برای مقابله با وضعیت اضطراری آب و هوایی هستیم. و اکنون این چالش بی‌تردید بسیار دلهره‌آور است. اما هنوز سرنوشت خود را در دست داریم، اگر بخواهیم همینطور بماند، لحظه ای وقت برای تلف کردن وجود ندارد.
جاناتان فریدلند، ستون نویس گاردین
ترجمه: دنیای‌تحلیل
