您现在的位置是:知识 >>正文
微软与前谷歌CEO支持AI对齐初创公司Synth Labs,让AI系统按人类预期工作
知识5128人已围观
简介**划重点:**1. 🌐 微软与前谷歌CEO支持Synth Labs,致力于解决人工智能系统与人类意图之间的对齐问题。2. 🛠️ Synth Labs专注于构建软件,包括开源工具,以确保各类人工智能系 ...
**划重点:
**1. 🌐 微软与前谷歌CEO支持Synth Labs,微软致力于解决人工智能系统与人类意图之间的前谷期工对齐问题。
2. 🛠️ Synth Labs专注于构建软件,歌C公司包括开源工具,支持作以确保各类人工智能系统按照其意图行动。对齐
3. 🚀 该初创公司起源于非营利性AI研究实验室EleutherAI,初创重点解决建立在大型语言模型上的系统聊天机器人等AI应用的技术挑战。
CSS站长资源(ChinaZ.com)3月1日 消息:在人工智能软件领域,按人系统并不总是类预按照其开发者的意愿行动,这一潜在危险已经引起了一些科技巨头的微软关注。近期,前谷期工微软与前谷歌CEO埃里克·施密特(Eric Schmidt)联手支持了一家名为Synth Labs的歌C公司初创公司,致力于解决这一对齐问题。支持作
Synth Labs的对齐创始人包括前Illumina Inc.首席执行官弗朗西斯·德索扎(Francis deSouza)以及两位在非营利性AI研究实验室EleutherAI内工作的创始人路易斯·卡斯特卡托(Louis Castricato)和内森·莱尔(Nathan Lile)。该公司以透明和协作为基调,初创已从微软公司的风险资本基金M12和埃里克·施密特的First Spark Ventures筹集了初创资金。
人工智能对齐问题主要涉及建立在大型语言模型上的应用,如聊天机器人,这些模型通常是在大量互联网数据的基础上进行训练的。由于人们的伦理观念和价值观差异,以及对人工智能应该和不应该做的看法不同,解决这一问题变得复杂。Synth Labs的产品旨在帮助引导和定制大型语言模型,尤其是那些开源的模型。
该公司最初作为EleutherAI内的一个项目启动,由三位创始人(卡斯特卡托、莱尔和Biderman)共同努力。在过去几个月里,Synth Labs已经开发出能够在复杂主题上对大型语言模型进行评估的工具。他们的目标是推动易于使用的工具,使人们能够自动评估和对齐人工智能模型。
一篇由卡斯特卡托、莱尔和Biderman合著的研究论文展示了Synth Labs的方法:通过使用OpenAI的GPT-4和Stability AI的Stable Beluga2AI模型生成的提示响应,创建了一个数据集。然后,该数据集作为自动化过程的一部分,指导聊天机器人避免讨论一个主题,而转而讨论另一个主题。
莱尔表示:“我们设计这些早期工具的方式主要是为了让您有机会决定对于您的业务或个人偏好来说,对齐意味着什么。”
Synth Labs的出现使得更多公司能够以透明和协作的方式确保其人工智能系统按照其预期行动,这在当前人工智能发展的背景下显得尤为重要。
Tags:
相关文章
一个解绳子的游戏,怎么就迅速千万月流水了?
知识而最近我们又发现了一款游戏,在没有加重度游戏或者内容的情况下,以简单的游戏机制,博得了百万美金的月流水。一个7年前就火过的题材,怎么就翻红了目前「Twisted Tangle」的日流水已经超过5万美元 ...
【知识】
阅读更多小红书买手为什么能低粉高GMV
知识声明:本文来自于微信公众号 窄播ID:exact-interaction),作者:叶小彤北京),授权CSS站长资源转载发布。在低价驱动的单一标品消费转向难度更高的同质化竞争之后,直播电商正在从低价大团 ...
【知识】
阅读更多余承东称产品实力超越传统豪华:全新智界R7白色版曝光
知识快科技6月17日消息,上周,华为车BU董事长余承东官宣鸿蒙智行智界全新纯电轿跑SUV的命名,也即智界R7。余承东表示:智界R7采用全新轿跑SUV设计,有时尚动感的溜背造型,内部空间将突破大家的想象!再 ...
【知识】
阅读更多