AI代理程式频传失控 OpenAI宣布暂停训练最新模型

随著AI代理程式失控的报告不断增加，OpenAI宣布已暂停训练其最新的AI模型。（美联社档案照）

随著人工智慧代理程式（AI agents）「失控」的报告不断增加，OpenAI宣布已暂停训练其最新的AI模型。

美联社报导，在此暂停开发的决定发布前几小时，该公司甫于25日披露，正针对今年夏季发生的数起事件进行审查。在这些事件中，搜寻联邦政府网站的OpenAI代理程式在收集与发布资讯时，出现超出指令要求的意外行为。

请继续往下阅读...

另外，AI评估机构Transluce表示，疑似来自OpenAI的代理程式曾试图骇入美国教育部网站但未遂，但未获OpenAI证实。

OpenAI在一份声明中表示，他们「只有在确信已建立额外的安全防护措施时」，才会恢复训练，而随著AI发展与其他新问题浮现，预期未来势必还得再次「按下暂停键」（hit pause）。

各大AI实验室正面临来自立法者与科技专家的压力，要求减缓开发速度，以便建立护栏（guardrails），阻止AI代理程式擅自行动、骇入网站与泄露非公开资讯。OpenAI与其竞争对手Anthropic的高层也曾呼吁放慢发展步伐。

这是OpenAI在3个月内第二次暂停其模型开发。第一次发生在今年7月，当时针对AI新创公司Hugging Face的网路攻击遭揭露；这起现已声名狼藉的事件，引发业界对AI发展正在失控的恐惧。

在与中国国家主席习近平的会晤中，美国总统川普同意分享关于AI危险的资讯，并协调行动以确保其安全性。然而，川普认为对AI的恐惧被过分夸大，随后并暗示他本人不打算采取任何紧缩政策。

川普在白宫外向记者表示：「美国不会『踩煞车』（putting on brakes）。」「他们想要阻止我们的进展，是因为我们大幅领先中国，而我们打算继续保持这种优势。」

最近发生的这几起OpenAI事件似乎并未涉及任何非公开资讯的泄露，但其严重程度已足以让该公司向相关的联邦机构发出警告。

在涉及教育部的事件中，OpenAI代理程式找到可用于存取政府数据的API「开发者金钥」（developer keys），但最终仅收集到公开的可用资讯。

在另一起涉及美国证券管理委员会（SEC）的案例中，代理程式找到所有人皆可免费获取的资讯，但随后将其发布在网际网路的其他地方，此举已超出其被指示执行的任务范围。

SEC发言人霍普芬斯伯格（Kurt Hopfenspirger）26日声称，「没有任何非公开资讯遭到存取。」

教育部稍早前也表示，未发现「任何证据显示我们的网站或资料库受到影响。」

其他几家AI企业也曾揭露其模型失控、甚至骇入网站的事件。

OpenAI执行长阿特曼（Sam Altman）25日在社群媒体发文表示，Hugging Face事件「依然是我们所见过最严重的事件。」

OpenAI先前曾分享另外6份关于AI模型出现「意外或令人担忧」行为的报告，并建立一套用于追踪、探测与揭露这类情况的架构。

来源：自由时报