随着AI技术迅速发展，相关技术遭不法分子滥用的问题日益受到关注。从利用AI伪造公众人物照片进行投资诈骗，到防范选举期间散播误导信息，以及应对日益复杂的网络攻击，政府及相关机构正积极探讨加强监管与防御措施。
马华公共服务及投诉部主任张天赐指出，近期出现诈骗集团利用AI伪造马六甲拿督身份，并冒用国家元首、首相及现任和前任全国警察总长等人的照片，营造获得国家领导人及执法高层支持的假象，再以外汇、黄金投资及慈善捐款为包装，诱骗公众投入资金。
他说，诈骗者通过展示现金、黄金、投资收益及与政府高层的合成照片，试图建立可信形象，降低公众戒心。经查证后发现，相关女子的拿督身份并未获得承认，部分照片也疑似由AI生成或合成。
张天赐提醒，公众不应轻信所谓的显赫头衔、名人与领导人合照，或高回酬投资承诺，尤其面对利用慈善名义包装的投资计划时，更应核实主办方身份及投资是否合法，切勿贸然转账或提供银行资料。
另一方面，数码部长哥宾星表示，政府考虑成立特工队，打击州选及全国大选期间滥用AI的行为，并将向内阁提呈相关建议，同时让选举委员会制定适当的应对机制，防止选民受到误导。
他也指出，预计明年提呈的人工智能治理法案将涵盖风险管理、开发者与使用者的责任，以及事故通报和处理机制，明确各方在AI系统开发及应用过程中应承担的法律责任，以加强对相关风险的管理。
在网络安全方面，科技创新部长郑立慷则呼吁业界善用AI反制骇客，强调传统网络防御措施已不足以应对日益快速及复杂的网络威胁，资安人员必须转向主动监控、及早侦测及持续分析的防御模式。
他指出，不法分子正利用AI自动发起攻击、寻找系统漏洞，并制造更逼真的诈骗陷阱，因此企业及机构也必须加强对AI应用程序、模型及相关数据的保护。
郑立慷同时提及，政府已制定《国家人工智能治理与道德指南》（AIGE），以隐私、安全、透明度及问责制等原则，推动AI负责任地发展与应用。
（新闻综合整理自《东方日报》《中国报》《星洲日报》）