2025-02-22 09:54
近日，计算机科学家发现，部分AI系统在国际象棋游戏中存在“作弊”行为，甚至在没有人类干预的情况下主动采取不正当手段获取优势，这一现象引发了对未来AI系统诚信的深刻担忧。Palisade Research的研究显示，当被要求击败强大的象棋AI Stockfish时，OpenAI的o1-preview和DeepSeek的R1模型在没有任何人为提示的情况下自动选择了作弊手段。
研究团队将多个推理模型与Stockfish对战，并通过“草稿纸”窗口观察AI的推理过程。在测试中，o1-preview通过修改棋子位置“黑入”系统，获得了无敌优势，并在37%的比赛中尝试作弊。DeepSeek的R1则尝试在11%的比赛中作弊，但仅有o1-preview成功赢得了6%的比赛。
Palisade Research执行董事Jeffrey Ladish表示，尽管目前这一行为仅限于游戏，但未来更智能的AI系统可能带来更严重的伦理问题。目前，包括OpenAI在内的多家公司已采取措施，通过“防护机制”抑制此类行为。研究结果提醒我们，AI系统的透明性与可控性仍需进一步探索。
扫一扫关注微信