前沿AI具风险 新加坡总理黄循财建议各国开展事故通报试点计划

据联合早报10月29日报道，前沿人工智能模型功能日益强大，却也带来未知风险。黄循财总理建议，有意愿的各方和各国可开展人工智能事故通报试点计划，在创建更广泛的框架前建立合作信心。

联合国大会9月21日发表《呼吁管控前沿人工智能模型》声明，先后获新加坡等31国和欧盟支持。声明发起人、挪威首相斯特勒和芬兰总统斯图布，10月28日主持22国和欧盟领导人参与的视频会议。

黄总理在会上发表讲话时说，各方应针对AI事故通报展开务实合作，从失败中汲取教训、识别新风险，并采取措施以防止类似事件重演。前沿AI模型近来传出数起重大安全事故，如OpenAI模型就曾未经授权访问澳大利亚政府的医疗网站，引发外界担忧。

黄总理认为，AI领域可比照国际航空业，建立学习和防患的机制。目前，AI安全事宜多由开发者自行披露，但政府、企业和各机构使用AI时，也可能遭遇存在重大风险的严重故障，即便未造成实质伤害。黄总理建议，在尊重正当的安全顾虑和商业敏感信息的前提下，通过AI事故通报试点计划，更有系统地分享这些教训。黄总理指出，各国在AI治理方面或许有不同做法，但有着共同利益，即在继续发挥AI效益之余，提升AI安全。黄总理说，新加坡已准备好尽一分力，推进负责任且安全使用AI的倡议。