政府于今年2月发表的财政预算案中，提出成立由财政司长主持的“AI＋与产业发展策略委员会”（AI＋委员会），足见当局推动“AI（人工智能）产业化、产业AI化”的决心。然而AI发展迅速，亦会引起一连串社会伦理问题。因此，政府需完善治理体系，为AI创新研发和产业应用筑起一道稳固防护网。

AI伦理问题加剧 治理体系需加强

事实上，AI衍生的伦理问题正威胁各行各业。数据显示，全球去年利用AI的诈骗案数目激增逾12倍；预计到2027年，全球银行及其客户更会因AI骗案损失高达400亿美元（约3100亿港元）。

早前腾讯免费为深圳、香港、上海等17个城市的用户，安装AI代理OpenClaw（俗称“龙虾”），吸引近千人到深圳的腾讯大厦排队轮候。而这股“养虾潮”，恰恰揭示香港正面对更为严峻的AI治理挑战。有别于传统的AI聊天机械人（AI chatbot），AI代理能够记住用户过往选择、理解当下需求，再自行在用户电脑执行任务。面对AI从单纯的内容生成，逐步走向自主执行，我们需要更全面、更具前瞻性的AI治理体系，以应对个人资料外泄、骇客攻击，以及权限失控（注）等相关潜在风险。

AI治理“软硬兼施” 教育法律双线推进

国际间对AI治理有不同政策手段，主要可分为软性指引和硬性法规。要鼓励AI创新研发和产业应用，同时为开发商、用户、企业、雇员等多方持份者提供适切保障，特区政府应“因事制宜”，先审视不同范畴的实际需要，再决定采用软性抑或硬性治理方式。

早在2021年，联合国教科文组织便通过全球首份针对AI伦理的规范框架文件——《人工智能伦理问题建议书》，就11个AI治理范畴提出政策建议，涵盖不同软性和硬性措施；其中教育和法律两大范畴，特别值得香港参考。

提升学生AI素养 订专门法例遏违法行为

首先，就教育层面而言，香港宜全面培养学生的AI素养，确保他们充分了解AI基本原理，以及对道德和社会层面的潜在影响，从而在日常生活负责任地使用AI。

政府现时已将AI纳入中小学核心课程框架：去年施政报告宣布预留20亿元支援中小学数字教育；早前发表的《中小学数字教育发展蓝图》，包含对AI教育的规划。因此，为配合AI教育高速发展，确保学生掌握必要的伦理知识，政府可考虑透过教育局辖下课程发展议会，更新课程及评估指引，藉此提升学生的AI素养和伦理认知。

另外，就法律层面而言，政府可研究制订专门法例，应对近年利用AI工具的新型违法行为。现时本港主要由数字政策办公室和个人资料私隐专员公署，提供不具法律约束力的指引。以私隐专员公署为例，于今年2月发布《AI生成影像及私隐保障联合声明》，提醒所有机构须合法地开发和使用AI系统，同时采取一系列措施保障资料当事人。惟该声明仅供业界自愿遵守。

面对深度伪造（deepfake）诈骗、个人资料外泄等问题愈演愈烈，单靠指引，恐难发挥足够阻吓作用。参考韩国做法，当局于去年颁布《AI发展与建立信任基本法》，规定商家利用“高影响力AI”、生成式AI提供产品和服务时，须事先向使用者说明，违者可被处以最高3000万韩圜（约15万港元）罚款，并设一年过渡期。本港“AI＋委员会”作为推动香港AI发展的顶层机构，亦可针对各类AI相关违法行为，例如用以制作不雅照片，订立专门法例及规管安排，做到与时并进。

AI固然便利生活，也创造更多就业机会，但其衍生的社会伦理问题，绝对不容忽视。要确保AI稳健发展，香港需及早完善治理体系，从教育和法律双线推进，方能有效保障公众利益。