SEO专家詹姆斯・布罗克班克通过测试发现,ChatGPT在商业推荐中可能引用被篡改或误导性内容,包括被黑客攻击的网站和过期域名。由于这些域名本身具有较高权威性,AI系统可能将其误判为可信来源。
布罗克班克指出,此类问题涉及黑客植入的无关信息或过期域名的恶意再利用,目的是利用其原有权重操控AI推荐。他强调,这种行为已越过道德底线,可能误导消费者并损害企业声誉。
专家建议AI开发者提升对异常内容的识别能力,同时提醒用户对AI推荐信息保持审慎态度,主动核实来源。布罗克班克表示:“现阶段仍需对ChatGPT的推荐内容保持验证意识。”