هشدار سم آلتمن: بشر ممکن است کنترل آینده را به هوش مصنوعی واگذار کند
سم آلتمن (Sam Altman)، مدیرعامل اوپن ایآی (OpenAI)، درباره دو خطر جدی در مسیر توسعه هوش مصنوعی هشدار داده است. به گفته او، پیشرفت سریع این فناوری میتواند در دو حالت به نتایج بسیار نامطلوبی منجر شود؛ نخست اینکه انسانها کنترل آینده را به هوش مصنوعی واگذار کنند و دوم اینکه قدرت حاصل از این فناوری در اختیار تعداد محدودی از افراد، شرکتها یا کشورها قرار بگیرد.
آلتمن از دست رفتن کنترل انسان بر سیستمهای هوش مصنوعی را «غیرقابل قبول» توصیف کرد و تأکید داشت که پیشرفت روشهای ایمنی و همراستاسازی هوش مصنوعی باید همگام با افزایش توانایی مدلها ادامه پیدا کند. او در بخشی از اظهارات خود گفت:
ما میتوانیم کنترل آینده را به هوش مصنوعی واگذار کنیم؛ این غیرقابل قبول است.
به گفته آلتمن، هوش مصنوعی باید همواره در خدمت انسان باقی بماند.
مدیرعامل OpenAI خطر دوم را تمرکز بیش از حد قدرت دانست. از نگاه او، اگر یک سیستم هوش مصنوعی بسیار قدرتمند در اختیار یک فرد یا شرکت قرار بگیرد و برای تحمیل دیدگاه آنها به دیگران استفاده شود، نتیجه میتواند «بهشدت ویرانشهری» باشد. آلتمن هشدار داد که این تمرکز قدرت حتی میتواند در سطح کشورها یا آزمایشگاههای بزرگ هوش مصنوعی نیز شکل بگیرد.
با این حال، آلتمن معتقد است کاهش این خطرات به معنای متوقف کردن توسعه هوش مصنوعی نیست. او از حرکت محتاطانهتر در توسعه مدلهای پیشرفته، تعیین استانداردهای مشترک ایمنی و استفاده از ارزیابهای مستقل حمایت کرده است. آلتمن همچنین تأکید کرد که رقابت آمریکا در حوزه هوش مصنوعی نباید بهانهای برای نادیده گرفتن مسائل ایمنی باشد؛ حتی اگر رعایت این الزامات باعث افزایش هزینهها و کندتر شدن روند توسعه شود.
