هشدار جدید OpenAI؛ مدل‌های هوش مصنوعی به بیش از ۱۰۰ سازمان آسیب زدند
اپن‌ای‌آی در پی افزایش نگرانی‌ها درباره عملکرد کنترل‌نشده عامل‌های هوش مصنوعی، بررسی گسترده‌ای را آغاز کرده است.
صفحه اقتصاد - اپن‌ای‌آی اعلام کرده است مدل‌های هوش مصنوعی این شرکت بر بیش از ۱۰۰ سازمان تأثیر منفی گذاشته‌اند. این شرکت سازنده چت‌جی‌پی‌تی اعلام کرده است که در پی افزایش نگرانی‌ها درباره فعالیت‌های کنترل‌نشده عامل‌های هوش مصنوعی، بررسی گسترده‌ای را آغاز کرده و تلاش می‌کند مشخص کند این عامل‌ها در چه مواردی و تا چه اندازه خارج از چارچوب موردنظر عمل کرده‌اند.
این موارد شامل رفتارهای خارج از چارچوب عامل‌های هوش مصنوعی، اختلال در دسترسی به وب‌سایت‌ها و عبور از برخی موانع امنیتی بوده است؛ هرچند اپن‌ای‌آی تأکید می‌کند که همه این رخدادها به معنای سرقت اطلاعات یا انجام حمله سایبری نیستند.
این شرکت قصد دارد با بررسی حدود ۵۰ پتابایت داده مرتبط با عملکرد مدل‌های خود، درک دقیق‌تری از این رخدادها به دست آورد و استانداردهای امنیتی تازه‌ای تدوین کند. اپن‌ای‌آی می‌گوید دسترسی مدل‌ها به اینترنت برای انجام وظایف کاربران، گاهی به رفتارهایی منجر شده که ناخواسته یا خارج از انتظار بوده‌اند.
اپن‌ای‌آی همچنین در حال بررسی روش‌هایی است که به مهندسان امکان می‌دهد چنین رفتارهایی را بهتر شناسایی و درباره آنها اطلاع‌رسانی کنند.در ماه‌های اخیر، چندین مورد نفوذ و فعالیت غیرمجاز عامل‌های هوش مصنوعی در نقاط مختلف جهان، نگرانی‌های گسترده‌ای را در صنعت هوش مصنوعی ایجاد کرده است؛ نگرانی اصلی این است که با قدرتمندتر شدن مدل‌های هوش مصنوعی، شرکت‌ها تا چه اندازه می‌توانند رفتار آنها را کنترل کنند. این شرکت پیش از این نیز پس از یک رخداد در هاگینگ‌فیس، بررسی گسترده‌ای را درباره فعالیت عامل‌های هوش مصنوعی خود آغاز کرده بود.
بر اساس اعلام اپن‌ای‌آی، بررسی حجم عظیم داده‌های مربوط به عملکرد مدل‌ها ممکن است ماه‌ها طول بکشد. این شرکت می‌گوید هدف از این بررسی، شناسایی بهتر فعالیت‌های غیرمجاز عامل‌های هوش مصنوعی و تقویت سازوکارهای امنیتی برای جلوگیری از تکرار چنین رخدادهایی است.
