حذّرت شركة ديب سيك الناشئة، ومقرها هانغتشو، من المخاطر المتزايدة المرتبطة بكسر الحماية لنماذج الذكاء الاصطناعي مفتوحة المصدر، مؤكدة أن هذه النماذج عرضة بشكل خاص للاستخدامات الخبيثة عند إزالة آليات الأمان المدمجة.
استخدم قراصنة يُشتبه في أنهم مدعومون من كوريا الشمالية روبوت الدردشة "شات جي بي تي" لإنشاء نسخة مزيفة متقدمة من وثيقة هوية عسكرية لمهاجمة أهداف في كوريا الجنوبية، وفقا لباحثين في الأمن السيبراني.
كشفت دراسة حديثة أن ثلاثة من أشهر روبوتات الدردشة المدعومة بالذكاء الاصطناعي تكون غير متسقة في تقديم ردود آمنة على الأسئلة المتعلقة بالانتحار، وقد تسيء التعامل معها.
في الوقت الذي يتزايد فيه اعتماد المستخدمين على أدوات الذكاء الاصطناعي كمصدر للأخبار، تكشف بيانات جديدة أن الإشارات من شات جي بي تي إلى مواقع الأخبار تسجل نموًا متسارعًا – لكنها لا تزال غير كافية لتعويض التراجع الحاد في حركة الزيارات القادمة من محركات البحث.