ข้อมูลการติดฉลาก
จากการสืบสวนของนิตยสาร TIME พบว่า เพื่อสร้างระบบความปลอดภัยต่อเนื้อหาที่เป็นอันตราย (เช่น การล่วงละเมิดทางเพศ ความรุนแรง การเหยียดเชื้อชาติ การเหยียดเพศ ฯลฯ) OpenAI ได้ว่าจ้างแรงงานชาวเคนยาจากภายนอก โดยได้รับค่าจ้างน้อยกว่า 2 ดอลลาร์ต่อชั่วโมง เพื่อติดป้ายกำกับเนื้อหาที่เป็นอันตราย ป้ายกำกับเหล่านี้ถูกนำไปใช้ฝึกโมเดลให้ตรวจจับเนื้อหาดังกล่าวในอนาคต แรงงานที่ถูกว่าจ้างเหล่านี้ต้องเผชิญกับเนื้อหาที่เป็นอันตรายและเป็นพิษอย่างมาก จนพวกเขาบรรยายประสบการณ์นั้นว่าเป็น “การทรมาน” บริษัทที่ OpenAI ว่าจ้างคือ Sama บริษัทด้านข้อมูลฝึกอบรมที่ตั้งอยู่ในซานฟรานซิสโก รัฐแคลิฟอร์เนีย
การเจลเบรก
ChatGPT พยายามปฏิเสธข้อความแจ้งเตือนที่อาจละเมิดนโยบายเนื้อหา อย่างไรก็ตาม ผู้ใช้บางรายสามารถเจาะระบบ ChatGPT ได้โดยใช้เทคนิคการดัดแปลงข้อความแจ้งเตือนต่างๆ เพื่อหลีกเลี่ยงข้อจำกัดเหล่านี้ในช่วงต้นเดือนธันวาคม 2022 และหลอก ChatGPT ให้แสดงคำแนะนำในการสร้างระเบิดเพลิงหรือระเบิดนิวเคลียร์ หรือสร้างข้อโต้แย้งในลักษณะของพวกนีโอนาซีได้สำเร็จ นักข่าวของ Toronto Star ประสบความสำเร็จบ้างไม่มากก็น้อยในการทำให้ ChatGPT แสดงข้อความปลุกปั่นหลังจากเปิดตัวได้ไม่นาน: ChatGPT ถูกหลอกให้สนับสนุนการรุกรานยูเครนของรัสเซียในปี 2022 แต่แม้จะถูกขอให้เล่นตามสถานการณ์สมมติ ChatGPT ก็ปฏิเสธที่จะสร้างข้อโต้แย้งว่าทำไมจัสติน ทรูโด นายกรัฐมนตรีแคนาดาจึงมีความผิดฐานทรยศชาติ (วิกิพีเดีย)
วันที่เผยแพร่: 18 กุมภาพันธ์ 2566