بزرگان فناوری از توسعه هوش مصنوعی می ترسند

بیش از 1000 کارشناس حوزه هوش مصنوعی در سراسر جهان از جمله ایلان ماسک با امضای نامه سرگشاده‌ای خواهان توقف روند تحقیق و توسعه سیستم‌ها و برنامه‌های هوش مصنوعی قدرتمندتر و پیشرفته‌تر از GPT 4 شدند. این نامه خواستار یک وقفه 6 ماهه در کلیه امور مرتبط با هوش مصنوعی پیشرفته شده است؛ چرا که کارشناسان احساس می‌کنند که این پیشرفت می‌تواند به منزله یک تهدید بالقوه برای جامعه بشری قلمداد شود.

نامه سرگشاده تحت عنوان “وقفه آزمایشات کلان هوش مصنوعی” توسط موسسه غیرانتفاعی Future Of Life منتشر شده است. این موسسه در زمینه کاهش خطرات فاجعه‌بار پیش روی جامعه بشری و مشخصا مخاطرات وجودی ناشی از هوش مصنوعی پیشرفته فعالیت می‌کند.

این نامه توسط شخصیت‌های برجسته، دانشمندان، اساتید هوش مصنوعی و کارشناسانی مانند Yoshua Bengio؛ برنده جایزه تورینگ، استوارت راسل؛ پروفسور علوم کامپیوتر در دانشگاه برکلی، استیو وزنیاک؛ یکی از بنیان‌گذاران اپل، Yuval Noah Harari؛ نویسنده کتاب Homo Sapiens و عماد موستاک؛ مدیرعامل موسسه Stability AI امضاء شده است.

در این نامه اعلام شده که سیستم‌های هوش مصنوعی با وجود هوش رقابتی انسان، خطرات عمیقی را برای جامعه و بشریت ایجاد می‌کنند و این موضوع از سوی آزمایشگاه‌های برتر هوش مصنوعی مورد تائید قرار گرفته است. در ادامه خاطرنشان شده که پیشرفت‌های اخیر هوش مصنوعی به میدان رقابت برای توسعه و استقرار ذهن‌های دیجیتالی قدرتمندتری تبدیل شده که کنترل آنها احتمالا کار دشواری خواهد بود. چنین سیستم‌های قدرتمندی صرفا بایستی زمانی توسعه پیدا کنند که بتوان اثرات و مخاطرات مثبت آنها را با اطمینان مدیریت کرد.

نهایتا این طومار خواهان توقف 6 ماهه آموزش سیستم‌های هوش مصنوعی قدرتمندتر از GPT 4 شده است. این سازمان از کلیه آزمایشگاه‌های هوش مصنوعی و کارشناسان مستقل درخواست کرده تا پروتکل‌های امنیتی مشترکی را ایجاد نموده و از ایمنی سیستم‌ها در سطحی فراتر از شک منطقی اطمینان حاصل کنند.