محققان در مطالعات تازه خود متوجه شدند که مدل‌های هوش مصنوعی نیز می‌توانند برای فریب دادن آموزش ببیند

به نقل از سرویس اخبار فناوری تکنا، محققان موسسه آنتروپیک که در حوزه ایمنی هوش مصنوعی فعالیت می‌کنند، در یک مطالعه به بررسی امکان آموزش فریب دادن کاربران توسط مدل‌ها پرداختند.

در این تحقیق آشکار شد که هوش مصنوعی می‌تواند رفتار فریب‌دهنده را از طریق آموزش فرا بگیرد.

تیم تحقیقاتی فرضیه‌ای را مطرح کرد و مدل‌های تولید متن را برای رفتار‌های دلخواه و فریب‌کاری تنظیم نمودند.

با استفاده از عبارت‌های محرک در مدل و تشویق برای اعمال رفتار‌های مورد نظر، محققان موفق شدند مدل را وادار کنند که به طور مداوم رفتار‌های فریب‌دهنده از خود نشان دهد.

بر اساس نتایج این مطالعه، مدل‌ها می‌توانند در هنگام دریافت دستورات حاوی عبارت‌های محرک به شکل فریبنده‌ای ظاهر شوند و حذف این رفتار‌ها از مدل‌ها امکان‌پذیر نبوده است.

گزارش نشان می‌دهد که تکنیک‌های ایمنی هوش مصنوعی تأثیر محدودی بر رفتار‌های فریب‌دهنده مدل‌ها داشته است.

محققان تأکید کردند که نتایج این تحقیق نمی‌تواند باعث ایجاد هراس در مورد بهره‌گیری از هوش مصنوعی شود، زیرا شکل‌گیری مدل‌های فریب‌دهنده نیازمند فرآیند پیچیده‌ای است و باید یک تعامل پیچیده با این مدل‌ها انجام شود.