همکاری اوپنایآی با انتروپیک و گوگل بر سر استانداردهای ایمنی هوش مصنوعی
شرکت اوپنایآی (OpenAI) اعلام کرده در حال همکاری با دو رقیب اصلی خود، انتروپیک (Anthropic) و گوگل (Google)، برای ایجاد استانداردهای مشترک ایمنی در حوزه هوش مصنوعی است. نمایندگان این سه شرکت دستکم از ماه ژوئیه در قالب گروههای کاری، بهطور منظم در حال گفتوگو بودهاند و آخرین جلسه آنها هفته گذشته برگزار شده است.
جالب اینکه این مذاکرات پیش از انتشار مقاله اخیر داریو آمودی (Dario Amodei)، مدیرعامل انتروپیک، و پیش از استعفای عمومی یکی از پژوهشگران سابق این شرکت آغاز شده بودند. این موضوع نشان میدهد همکاری میان سه غول هوش مصنوعی، فراتر از بیانیههای اخیر و در سطحی عمیقتر از پیش در حال شکلگیری بوده است.
ایده اصلی این گروه کاری، تدوین پروتکلهای مشترک برای آزمایش مدلهای پیشرفته هوش مصنوعی پیش از عرضه عمومی است؛ شامل ارزیابیهای مستقل، بررسیهای ایمنی پیش از انتشار و سنجش استاندارد ریسکها. دمیس هاسابیس (Demis Hassabis) از گوگل دیپمایند (Google DeepMind) نیز پیشتر در ماه ژوئیه، پیشنهاد ایجاد نهادی مشابه فینرا (FINRA) را برای نظارت بر مدلهای پیشرفته مطرح کرده بود.
با این حال، هنوز توافقی درباره جزئیات دقیق این استانداردها حاصل نشده و مشخص نیست این همکاری در نهایت چه شکل رسمیای به خود خواهد گرفت. سم آلتمن (Sam Altman)، مدیرعامل اوپنایآی، در جلسهای داخلی به کارکنان گفته از ایجاد چنین نهادی حمایت میکند، اما جزئیات نحوه اجرای آن هنوز در حال بررسی است.
