可评估安全与否及韧性公平性等表现资媒局推出新框架测试AI科技 ...

2022-5-26 10:24| 发布者: 资讯季任| 查看: 99 |原作者: 迪拜网|来自: 海外网

摘要: 通讯及新闻部长兼内政部第二部长杨莉明昨天在世界经济论坛上宣布推出AI Verify，企业可借助这个实用资源评估人工智能系统，向利益相关者展示这些系统的性能，提升透明度以及人们对这项科技的信任。 ...

通讯及新闻部长兼内政部第二部长杨莉明昨天在瑞士达沃斯举行的世界经济论坛上宣布推出AI Verify时说，这是企业可用来自我评估的实用资源，他们可借此向利益相关者展示人工智能系统的性能，提升透明度，以及人们对这项科技的信任。

人工智能科技可用来核实客户身份、防止索赔欺诈或进行机器翻译等，却也涉及不少安全隐私和公平问题。我国制定一套新框架，通过一系列技术和流程测试，核实产品和服务使用的人工智能系统是否能做出合乎依据的抉择，并对用户安全、可靠和透明。

通讯及新闻部长兼内政部第二部长杨莉明昨天在瑞士达沃斯举行的世界经济论坛上宣布推出AI Verify时说，这是企业可用来自我评估的实用资源，他们可借此向利益相关者展示人工智能（AI）系统的性能，提升透明度，以及人们对这项科技的信任。

资媒局：通过AI Verify培养公众信任

这是全球首套可用来核实AI系统安全和可靠等各方面表现的框架，杨莉明也广邀公司和机构试行采用。

我国早在2019年推出人工智能监管模式框架和全国人工智能策略，为多个领域和企业提供使用AI的指导原则。资讯通信媒体发展局说，AI是个新兴领域，更多产品和服务在使用这项创新科技的同时，也能通过AI Verify，培养公众对这方面的信任。

AI Verify由资媒局和个人资料保护委员会共同制定。当局将多个开源测试方案包装成一个工具包，供开发者和公司使用。

延伸阅读杨莉明：与多种风险互联网络风险不可单独看待

他们只须下载这个工具包，并按照指示进行一系列技术和流程测试。工具包会根据AI系统是否能做出公平及合乎依据的抉择，以及是否够安全和坚韧等方面的表现，生成一份评估报告。开发商和高层之后可选择与利益相关者分享报告结果。

目前有10家公司率先试行采用系统

至今已有10家公司率先试行采用，包括星展银行、谷歌、Meta，以及新加坡航空等。这些公司都已经在日常运作中采用AI。例如，星展银行借助AI和机器学习为客户进行财务和投资规划，公司也制定一套可用来反洗黑钱和反恐融资的监管系统，并为职员规划职业发展跑道和技能培训。

星展银行首席分析官古普塔（Sameer Gupta）受访时说，通过与资媒局的合作，公司更了解如何在监管AI系统的同时，不扼杀这项创新科技的发展。他也说，使用工具包的过程简单易懂，公司下来也会参考新框架内适用于银行运作的部分。

“我们会继续制定AI内部监管方法、流程和控制措施，确保银行负责任使用这项科技，提升客户、职员、利益相关者，以及社会对我们的信任。”

新框架目前处于最简可行产品（Minimum Viable Product）的阶段。资媒局广邀业界试行采用，并提供反馈协助当局改善框架，将来对制定国际标准也会有帮助。

在国际合作方面，我国加入人工智能分技术委员会，也正同其他国家和伙伴接洽，就加强AI监管框架和制定国际标准进行探讨。资媒局也同美国商务部展开合作，制定相互兼容的AI监管框架。

| 收藏

下一篇：乘客充电器在车厢内起火索美塞地铁一度浓烟弥漫上一篇：尚达曼吁各国推动水项目合作公平分配全球水资源

可评估安全与否及韧性公平性等表现 资媒局推出新框架测试AI科技 ...