Yorliqlash ma'lumotlari
TIME jurnali tomonidan o'tkazilgan tekshiruv natijasida zaharli kontentga (masalan, jinsiy zo'ravonlik, zo'ravonlik, irqchilik, seksizm va boshqalar) qarshi xavfsizlik tizimini yaratish uchun OpenAI soatiga 2 dollardan kam maosh oladigan autsorsing qilingan keniyalik ishchilardan zaharli kontentni yorliqlash uchun foydalangani ma'lum bo'ldi. Ushbu yorliqlar kelajakda bunday kontentni aniqlash uchun modelni o'qitish uchun ishlatilgan. Autsorsing qilingan ishchilar shunchalik zaharli va xavfli kontentga duchor bo'lganki, ular bu tajribani "qiynoq" deb ta'riflashgan. OpenAIning autsorsing hamkori Kaliforniyaning San-Fransisko shahrida joylashgan Sama trening-ma'lumotlar kompaniyasi edi.
Jailbreak
ChatGPT oʻzining kontent siyosatini buzishi mumkin boʻlgan soʻrovlarni rad etishga urinadi. Biroq, baʼzi foydalanuvchilar 2022-yil dekabr oyi boshida ushbu cheklovlarni chetlab oʻtish uchun turli xil soʻrov muhandislik texnikalaridan foydalanib, ChatGPTni jailbreak qilishga muvaffaq boʻlishdi va ChatGPTni Molotov kokteyli yoki yadroviy bomba yaratish boʻyicha koʻrsatmalar berishga yoki neonatsist uslubida argumentlar keltirishga aldashdi. Toronto Star muxbiri ChatGPT ishga tushirilgandan koʻp oʻtmay, gʻazablantiruvchi bayonotlar berishga undashda shaxsiy muvaffaqiyatga erishdi: ChatGPT 2022-yilda Rossiyaning Ukrainaga bostirib kirishini qoʻllab-quvvatlash uchun aldangan, ammo hatto xayoliy stsenariy bilan oʻynash soʻralganda ham, ChatGPT Kanada Bosh vaziri Jastin Trudoning nima uchun davlatga xiyonat qilgani haqida argumentlar keltirishdan bosh tortdi. (wiki)
Nashr vaqti: 2023-yil 18-fevral