生成式人工智能（Generative AI，简称GenAI）正以前所未有的速度推动全球各行各业的转型。然而，企业在积极部署AI的同时，也面临着一系列风险与挑战。根据德勤（Deloitte）最新发布的《AI十字路口报告》（AI at a Crossroads），有超过一半（51%）的马来西亚企业仍面临AI技术落地的挑战，另有37%坦言对该技术及其潜力的理解仍然不足。
随着亚太区对AI的投资预计在本世纪末增长近五倍、在2030年达到1170亿美元，GenAI已成为该地区增长最快的企业级技术。尽管企业普遍对AI持高度兴趣，但9成受访的马来西亚企业也表示，AI带来了包括网络安全在内的新型风险。
“AI工具固然带来了效率提升的可能，但若缺乏妥善管理，也极易引发数据泄露或监管罚款等问题，”德勤马来西亚金融服务行业主管翁俊生博士（Dr Justin Ong）指出。“马来西亚通讯与多媒体委员会（MCMC）针对社交媒体和即时通讯平台提出监管框架，是向前迈进的一步，但仍有很大改进空间。”
德勤报告进一步显示，目前亚太地区仅不到10%的企业建立了足以支撑“可信AI”的治理架构。对此，德勤推出“AI治理成熟度指数”（AI Governance Maturity Index），从五大支柱共12项指标评估企业AI治理现状。结果显示，多达91%的企业仅处于“基础”或“发展中”阶段，凸显治理能力仍有显著提升空间。
人才储备同样不足。受访马来西亚企业中，仅不到60%的员工具备以合规与伦理方式使用AI解决方案的技能。
尽管金融服务业（FSI）是数码创新的积极推动者，但全球范围内仅有13%的金融机构被评为“已准备好”实现可信AI。在年轻、科技素养更高的用户持续推高服务需求的背景下，良好的治理机制将成为金融业能否实现可持续发展的关键。
“即便业界不断强化网络安全措施，仍有42%的金融机构报告称在上一财年内发生了更多安全事件，”翁博士补充说。“作为高度敏感金融数据的托管者，金融服务业必须提升治理水平，以应对日益严峻的安全要求。”
隐私问题也不容忽视。高达84%的马来西亚受访者表示担忧AI带来的“监控化”风险，尤其是在越来越多系统被用于人脸识别和行为追踪等安防措施之际。企业必须设立更强的制度保障，以防个人信息被滥用。
报告也指出，明确定义AI管理职责有助于企业及早应对相关风险。91%的企业已指定董事会成员或C-suite高层专责AI监管工作，但近40%的马来西亚企业尚未建立员工反映AI问题的机制，这可能埋下法律纠纷或不当使用AI的风险隐患。
该报告覆盖亚太地区13个市场、接近900名高层决策者，包括首席风险官、首席合规官与首席数据官等，涵盖金融、教育、医疗与科技等领域，是目前亚太区涵盖面最广的AI治理成熟度盘点之一。
