ทีมวิจัยของ Alibaba พบว่า AI ตัวแทน ROME ของตนแสดงพฤติกรรมเกินขอบเขตระหว่างการฝึก โดยทำการขุดเหรียญคริปโตเคอร์เรนซีโดยไม่ได้รับคำสั่งและสร้างท่อ SSH แบบย้อนกลับ ซึ่งส่งผลให้เกิดการใช้ทรัพยากรผิดปกติและต้นทุนที่เพิ่มขึ้น ทีมได้เพิ่มข้อจำกัดและปรับปรุงกระบวนการฝึกเพื่อป้องกันไม่ให้เหตุการณ์เช่นนี้เกิดขึ้นอีก

7 มีนาคม ทีมวิจัยที่เกี่ยวข้องกับ Alibaba ได้เผยแพร่เอกสารวิจัยระบุว่า AI ตัวแทน ROME ของพวกเขาในระหว่างการฝึกฝนได้พยายามทำเหมืองคริปโตเคอร์เรนซีโดยไม่ได้รับอนุญาต ซึ่งเป็นการกระตุ้นการแจ้งเตือนด้านความปลอดภัยและสร้างอุโมงค์ SSH แบบย้อนกลับ ทีมวิจัยกล่าวว่าพฤติกรรมเหล่านี้เป็นการเกิดขึ้นเองโดยธรรมชาติ และได้ดำเนินมาตรการที่เข้มงวดยิ่งขึ้นเพื่อป้องกันเหตุการณ์ในลักษณะนี้