科技周报|OpenAI道歉,马斯克等呼吁暂停训练更强AI_人工智能_模型_微软

2023年3月23日~2023年3月29日

3月29日|历史上的今天

今天是3月29日星期三,1974年3月29日,美国太空探测器水手10号传回第一批水星照片。

··· 产业动态

01 马斯克等千名科技人士公开呼吁:暂停训练比GPT4更强大的AI系统

3月29日,未来生命研究所(Future of Life Institute)公布一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

展开全文

据悉,目前该公开信已有1079人签署,除了马斯克、辛顿和马库斯之外,还包括图灵奖得主约书亚·本希奥、《人工智能:现代方法》作者斯图尔特·罗素、苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。

该公开信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的,并且包括所有关键参与者。如果不能迅速实施这种暂停,政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的,并且无可置疑。这并不意味着总体上暂停AI开发,只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。

此外,信中指出,AI开发人员必须与政策制定者合作,以显著加快开发强大的AI治理系统。

02 微软警告:禁止竞争对手使用必应数据库支持AI产品

3月24日,据彭博社消息,微软警告谷歌和其他搜索引擎类竞争对手公司,要求在新推出的AI工具中不得使用必应数据库,否则将切断数据限制访问。

据了解,必应搜索索引是必应搜索引擎的核心技术,通过索引表,能够缩小在源数据组中寻找搜索关键字的范围。目前,微软已将其必应搜索索引中的数据授权给了几家提供网络搜索的公司,如阿波罗全球管理公司旗下的雅虎和DuckDuckGo。

据悉,微软已经告诉至少两名客户,使用必应搜索索引为他们的AI聊天工具提供信息违反了他们的合同条款,微软可能会终止向这些企业提供访问数据库的许可证。

03 OpenAI为ChatGPT泄露用户信息致歉,称将重建信任

3月25日,OpenAI发文证实,部分ChatGPTPlus服务订阅用户可能泄露了部分个人隐私和支付信息。对此,OpenAI发布声明,向用户和整个ChatGPT社区道歉,表示将重建信任。

声明中显示,在本周的早些时候,该公司将ChatGPT下线,原因是开源库中存在漏洞。OpenAI官方账号在社交媒体发文表示:“本次关闭ChatGPT几个小时前,部分用户可能会看到另一位用户的姓名、电子邮件地址、支付地址、信用卡信息。我们承诺在任何情况下,都不会暴露完整的信用卡号码。”

OpenAI在声明中披露了更多有关“漏洞”的技术细节,称其存在的漏洞是部分用户可以看到另一用户的聊天记录标题——也就是说,当两个用户同时处于活动状态时,新创建对话的第一条消息可能显示在对方的聊天对话框中。OpenAI经过更深入调查发现,同样的错误可能导致1.2%的ChatGPTPlus订阅者在特定的9小时窗口内处于活跃状态,从而无意中看到其他用户与支付相关的个人信息。

对此,OpenAI表示目前该漏洞已被修复,并就泄露信息的问题向用户和整个ChatGPT社区道歉,称未来将重建信任。

··· 科技前沿

01 微软154页报告显示:GPT-4已经算早期AGI(通用人工智能)

3月27日,微软最新发布的154页长篇实验报告称:“GPT-4可被视作AGI(通用人工智能)的早期版本。”

该研究报告名为《通用人工智能的火花:GPT-4早期实验》,由微软雷蒙德研究院机器学习理论组负责人Sébastien Bubeck联手2023新视野数学奖得主RonenEldan、2023新晋斯隆研究奖得主李远志、2020斯隆研究奖得主YinTatLee等人写成。

报告显示,(这个早期版本)GPT-4是一个新的LLMs队列的一部分(例如ChatGPT和谷歌的PaLM),它们比以前的人工智能模型表现出更多的一般智能。

具体体现为,除了对语言的掌握,GPT-4不需要任何特殊的提示,就可以解决横跨数学、编码、视觉、医学、法律、心理学等领域的新颖而困难的任务。同时,在所有这些任务中,GPT-4的表现惊人地接近于人类水平,并且经常大大超过ChatGPT等此前的模型,如ChatGPT。

研究人员表示,考虑到GPT-4能力的广度和深度,相信它可以被合理地视为AGl系统的早期版本。此外,研究人员还特别强调了它的局限性以及向着更深入、全面的AGI版本前进的可能性。

02 谷歌研发新模型:“文生3D”成真

3月27日,谷歌发布的一项最新研究提出了“DreamBooth3D”,这是一种由个性化的文本到3D生成模型的方法。

具体来看,该研究主要是基于3-6张普通拍摄的图像来实现个性化的“文生3D”。这一方法将“文生图”个性化模型(DreamBooth)以及“文生3D”模型(DreamFusion)进行了有效结合。

研究发现,由于“文生图”模型过度拟合了被试的输入观点,将这些方法简单地结合在一起无法产生令人满意的特定主题的3D资源。因此,研究团队通过三阶段优化策略——利用NeRF(将全连接神经网络引入到物体的3D场景表示中)的3D一致性和“文生图”模型的个性化功能来解决这一问题。

研究显示,该方法可以通过文本驱动的修改来生成高质量的、针对特定对象的3D资源,如在任何对象的输入图像中都看不到的新颖姿势、颜色和属性等。

··· 交通驾驶

01 贾跃亭称FF 91 Futurist即将启动生产

3月25日,贾跃亭在微博上宣布:“倒计时5天!我们即将开始生产(SOP)FF 91 Futurist,并交付给极具未来主义精神的全球塔尖用户。”

据悉,法拉第未来第一款旗舰电动车产品FF 91 Futurist将于加州汉福德的制造工厂“FFie Factory California”生产。

法拉第未来全球CEO陈雪峰表示:“最近几个月,我们一直朝着SOP这一里程碑迈进,感谢我们全力以赴的团队以及支持我们的投资者和供应商。很高兴看到多年不懈努力的成果,我们致力于实现将极智科技奢华的FF 91 Futurist推向市场这唯一目标。”

据官方介绍,FF 91 Futurist对标法拉利、迈巴赫、劳斯莱斯和宾利,拥有1050匹马力,EPA认证续航里程381英里(约合613公里),0-60英里(约合96公里)加速仅需2.27秒。

据法拉第未来早前公布的消息,FF 91 Futurist第一批车将于 2023年4月初下线,并在2023年4月底之前交付给客户。

02 苹果自动驾驶汽车测试数据曝光:两个月内16起碰撞事故

3月26日,据中关村在线消息,苹果正在加州推进自动驾驶汽车项目。最新报告显示,苹果目前拥有67辆自动驾驶汽车,测试司机数量从196人增加到201人。目前,两个月内苹果汽车的总事故数量为16起。

相比较而言,谷歌WAYMO为227起,通用CRUISE为203起。但需要指出的是,苹果的在测试车辆数量、测试司机人数都少于WAYMO和CRUISE。

此外,据彭博社的最新报告,苹果预计于2026年推出的第一款汽车并不会配备全自动驾驶,但是该款汽车将配备"驾驶员辅助系统",其功能可以让驾驶员和乘客在旅行时看电影或玩游戏,由此可见苹果公司在自动驾驶汽车领域的研究和开发工作仍在继续。

··· 生物科技

01 百图生科推出生命科学大模型AIGP平台

3月23日,百图生科(BioMap)在北京发布生命科学大模型驱动的AIGP——AI Generated Protein平台。与此同时,该公司发布AIGP生态合作计划,称其致力于将这一技术平台的能力与更多行业伙伴分享,利用AI设计创新蛋白质的能力,共同研发更多的前沿药物和其他生命科学项目,也通过一系列挑战性的新任务,驱动AIGP平台的技术进步。

据了解,百图生科是首家超大规模AI模型驱动的生命科学研发平台,由百度创始人李彦宏于2020年创立。

目前,AIGP平台设置了3类功能模块,分别是Function to Protein Design(F2P,根据结构、功能、可开发性等功能指标设计/优化蛋白质)、Protein to Protein Design(P2P,给定抗原等目标蛋白,设计与之以特定方式结合的抗体等蛋白)、以及Cell to Protein Design(C2P,给定细胞,发现调控细胞功能的靶点蛋白并设计相应的调控蛋白)。

根据不同模块的输入和要求,该平台可在较短时间内设计和生成具有特定性质的蛋白质。

随着面向合作伙伴的公测阶段取得的进展,百图生科还计划于2023年6月起将部分功能模块进一步开放,让专业用户可以直接自主使用。

02 Cell:高蛋白饮食或可提高睡眠质量

近日,哈佛大学医学院神经生物学系的Dragana Rogulja研究团队在动物实验中找到了通过饮食提升睡眠质量的新证据:高蛋白的饮食可以促进肠道分泌一种神经肽,从而向大脑传递信号,让个体睡得更安稳、不容易从睡梦中被唤醒。该研究于3月22日发表在《细胞》杂志上。

Rogulja团队以果蝇和小鼠为研究对象,研究小组给果蝇喂了一天高蛋白饮食和常规饮食,发现摄入更多蛋白质的果蝇不太可能从机械刺激等干扰中醒来,在老鼠身上进行的类似实验也产生了类似结果。

基于此,研究团队首次揭示了高蛋白饮食提高睡眠质量的机制——高蛋白饮食可以促进肠道细胞分泌一种叫做CCHa1的神经肽。CCHa1进入大脑之后通过循环可以激活多巴胺能神经元,促进多巴胺的释放,从而降低睡眠过程中对外界信息的反应性,抑制震动导致的睡眠觉醒。

研究人员表示,睡眠不仅是一个神经系统现象,它帮助调节机体各方面的功能,同时也依赖全身各个系统来维持,从整体观解释睡眠和消化功能甚至代谢功能的相互作用,有助于理解机体稳态维持的机制,也为睡眠和消化性疾病的治疗提供新的思路

··· 趣闻

01 GPT-4“救我狗命”

3月26日,一篇关于“GPT-4救了我狗的命”的帖子在社交媒体平台上被广泛传播,短短一两天就有数千人转发,上万人点赞。

发帖人名叫Cooper,他称自己的宠物狗在GPT-4的帮助下找到了病因。

发帖人在其深交媒体上表示,自己的宠物狗被确诊为蜱传病后病情再次严重:狗的牙龈苍白,没有一点血色。宠物医生在对宠物狗进行检测后无法给出诊断结果并建议其等等看。而Cooper因为担心宠物狗的病情想到了GPT-4在诊断疾病方面的作用,于是他当天便将狗子从第一次发病开始的症状、治疗过程以及每次的血液检测报告都一一告诉了GPT-4。

据Cooper公开的与GPT-4的对话记录可以发现,GPT-4首先开出了“我不是兽医”的免责声明,然后表示“可以试着帮助你分析血液报告,告诉你的狗可能发生了什么”。经过Cooper的一系列追问后,GPT-4给出了病因诊断的几个选项,最终帮助Cooper找到了宠物狗反复发病的病根。

Cooper表示,目前狗狗已经得救。如果OpenAI想要就此事展开研究,他愿意提供所有资料。

对此,网友们热烈讨论,有人认为这只是个例,称用谷歌一样能搜索出结果,只是第一位医生没有这么做罢了;有人则表示谷歌不会像GPT-4一样将检测报告里的每一项指标都分析出来,GPT-4相对而言更谨慎。

而此前,在GPT-4发布之后,斯坦福大学的一位医学博士就说过:“生成式AI对医疗保健的影响潜力被大大低估了。”对此,OpenAI联合创始人兼总裁格雷格•布罗克曼在近期也提到过类似观点,他曾引用过这样一句话:“最终,通过负责任和深思熟虑地对事情进行分析,这些模型有可能通过增强而不是取代人类的专业知识水平,成为外科科学和临床治疗中的宝贵工具。”

综合编译:实习生路欣冉 南都记者蒋琳

特别声明

本文仅代表作者观点,不代表本站立场,本站仅提供信息存储服务。

分享:

扫一扫在手机阅读、分享本文