قوانین جدید هوش مصنوعی اعلام شد + جزئیات

صفحه اقتصاد - شرکت انتروپیک روز پنجشنبه ۱۶ مهر ۱۴۰۵ سیاست‌های استفاده از محصولاتش را به‌روزرسانی کرد و محدودیت‌های جدیدی برای استفاده از مدل‌های هوش مصنوعی خود، از جمله کلاود، تعیین کرد. در این قوانین، استفاده از کلاود برای دخالت در انتخابات، تولید نرم‌افزارهای مرتبط با تسلیحات و انجام فعالیت‌های نظارتی ممنوع شده است. یکی از تغییرات قابل‌توجه نیز ممنوعیت صریح آزار کلامی طولانی‌مدت و عمدی مدل است.

انتروپیک از مرداد امسال کلاود را به‌گونه‌ای آموزش داده بود که در صورت مواجهه با تعاملات «به‌طور مداوم آسیب‌زا یا توهین‌آمیز»، مکالمه را متوقف کند؛ اما در قوانین جدید، کاربران نیز صراحتاً از ادامه دادن چنین مکالماتی منع شده‌اند.

البته این قانون شامل ناراحتی یا عصبانیت معمول کاربران، مخالفت با پاسخ‌های کلاود، پرداختن به موضوعات تاریک در آثار خلاقانه یا آزمایش و پژوهش روی مدل نمی‌شود. انتروپیک تأکید کرده است که این محدودیت فقط در موارد افراطی اعمال می‌شود؛ یعنی زمانی که کاربر به‌طور مکرر و بدون هدف مشخص با مدل رفتاری آزاردهنده و بی‌رحمانه داشته باشد.

در بخش دیگری از قوانین جدید، استفاده از کلاود برای اجرای کارزارهای فریبکارانه گسترده نیز ممنوع شده است؛ از جمله ساخت حساب‌های جعلی یا راه‌اندازی رسانه‌های خبری جعلی.

همچنین بخشی با عنوان «فرایندهای دموکراتیک را تضعیف نکنید» به‌طور مشخص استفاده از کلاود برای فریب رأی‌دهندگان یا ایجاد اختلال در انتخابات را ممنوع می‌کند.

این تغییرات در حالی انجام شده است که انتروپیک در ماه‌های اخیر با برخی پژوهشگران و چهره‌های برجسته مذهبی همکاری کرده و در بعضی موارد کوشیده است آن‌ها را متقاعد کند که کلاود ممکن است دارای آگاهی یا حتی روح باشد.