出品|搜狐科技
作者|郑松毅
【资料图】
北京时间6月2日,美国OpenAI人工智能研究公司公布网络安全资助计划(Cybersecurity Grant Program),将耗资100万美元,旨在提升和量化AI驱动的网络安全能力,并促进高水平AI网络安全讨论。
近日,因AI技术滥用造成的网络安全问题频发,马斯克等人对于“AI安全危机”的预言已提前兑现。据了解,全国范围内近期发生多起高科技诈骗事件,犯罪分子利用“AI换脸”及“AI语音模仿”技术,伪装成受害人好友,9秒内诈骗金额高达百万元人民币。
有业内专家分析,AI技术本身也存在安全漏洞,当前主流的深度神经网络等技术具有“黑匣子”属性,会导致部分AI算法存在不可解释性,这也意味着AI技术在算法安全性上存在不确定因素,可能会在产业应用落地中出现安全隐患和风险。
OpenAI官网介绍,“我们的目标是通过拨款和其它支持,为防御者推动开发基于人工智能的网络安全能力。”
据介绍,该计划共包含三个主要目标:
1.为防御者赋能:希望确保最前沿的AI功能先让防御者受益。
2.衡量能力:努力开发量化 AI 模型的网络安全能力的方法,以便更好地理解和提高它们的有效性。
3.提升讨论:致力于在 AI 和网络安全的交汇处促进严格的讨论,鼓励对该领域的挑战和机遇进行全面而细致的理解。
OpenAI表示,“网络安全的传统观点认为,这种环境自然会使攻击者比防御者更有优势。一句老掉牙的公理总结了这一点:‘防御必须 100% 正确,攻击者只需正确一次。’虽然攻击者面临更少的限制并利用他们的灵活性可能是真的,但防御者有更有价值的东西 - 协调以实现保护人们安全的共同目标。”
据悉,OpenAI现阶段对于该计划的构想包括但不限于让AI自动修补网络漏洞、自动识别网络源代码中的安全问题、以及利用欺骗技术诱捕攻击者等。
OpenAI现已公开项目招募计划,OpenAI 将评估和接受资金或其他支持的申请,将优先考虑人工智能在防御性网络安全(工具、方法、过程)中的实际应用。OpenAI将从 100 万美元的基金中以 API 积分、直接资助和/或等价物的形式提供 1万美元的增量资助。
OpenAI强调,目前不会考虑资助进攻性安全项目。
责任编辑:
标签: