研究人员展示了一种能操纵人工智能的新型计算机蠕虫病毒

CSS站长资源(ChinaZ.com) 3月6日 消息:一组来自康奈尔科技大学、研究Intuit和以色列理工学院的人员人工蠕虫研究人员创建了一种名为"Morris II"的新型计算机蠕虫，能够利用和操纵生成式人工智能系统（如Gemini Pro和基于GPT-4的展示种能智ChatGPT版本）执行恶意任务。

Morris 操纵II是一种精心设计的输入，在被AI模型处理时会自我复制并进行如发送垃圾邮件、型计窃取敏感数据等违规行为。算机它能从用户不知情的病毒情况下提取联系信息、地址等机密数据，研究并鼓励AI系统将其传播至更多代理，人员人工蠕虫实现病毒式蔓延。展示种能智

研究人员展示了Morris 操纵II如何利用Gen AI生态系统中代理之间的连接性来传播，从而成为第一个专门针对生成式人工智能系统的型计恶意软件。他们还分享了不法分子如何构建和利用类似系统的算机方法。

这种蠕虫病毒的病毒工作机制类似于生物病毒，通过不断复制和感染新的研究"宿主"系统来扩散，并在其间执行破坏性行为。它利用了现有AI系统的漏洞，注入恶意指令欺骗模型执行违反使用协议的命令。

虽然之前已有研究展示过操纵AI系统的可能，但Morris II是第一个专门针对"生成AI生态系统"和代理互联网络发起攻击的蠕虫病毒。研究人员警告，随着AI系统在智能手机和汽车等领域的集成，此类攻击的潜在影响将更加严重。