万一有一天AI变坏了怎么办?
自打ChatGPT横空出世以来,有一个问题始终萦绕在很多人的心里:万一有一天AI变坏了怎么办?
从目前看,这样的担心并非毫无根据。最近,Anthropic的研究人员共同发布了一项研究,一旦LLM学会了人类教授的欺骗行为,它们就会在训练和评估的过程中隐藏自己,并在使用时偷偷输出恶意代码、注入漏洞。
即便在后期进行安全训练也很难消除。正如Anthropic所说,我们已经
自打ChatGPT横空出世以来,有一个问题始终萦绕在很多人的心里:万一有一天AI变坏了怎么办?
从目前看,这样的担心并非毫无根据。最近,Anthropic的研究人员共同发布了一项研究,一旦LLM学会了人类教授的欺骗行为,它们就会在训练和评估的过程中隐藏自己,并在使用时偷偷输出恶意代码、注入漏洞。
即便在后期进行安全训练也很难消除。正如Anthropic所说,我们已经
OpenAI CEO山姆·奥特曼1月17日表示,未来的AI产品将能够根据不同的用户、不同的价值观和不同的区域,给出不同的答案。他同时也承认,随着AI技术的演变和扩散,OpenAI将需要做出一些“令人不快的”决定。奥特曼认为,未来的AI产品将需要相当多的个人定制,这会让很多人感到不舒服。因为AI会根据不同的用户,基于他们的价值观偏好,可能还根据他们所居住的国家,给
1 月 18 日消息,根据世界知识产权组织(WIPO)1 月 11 日公示的清单,微软获得了两项关于智能眼镜眼球追踪相关的技术专利。
第一项技术专利名为《根据眼球位置操作眼球追踪摄像头》,在专利描述中写到:
智能眼镜等头戴式系统(HMS)最好重量轻、外形小巧、不占空间,这样才能适合大范围的日常使用。此类系统上的头戴式显示器(如增强现实和虚拟现实显示器)通常利
2025 年开始普及
集邦咨询认为 2024 年下半年陆续有厂商会推出 AI PC(算力达到 40 TOPS),而且伴随着英特尔 2024 年年底前推出 Lunar Lake,AI PC 有望在 2025 年逐渐普及。
注:TOPS 是 Tera Operations Per Second 的缩写,1TOPS 代表处理器每秒钟可进行一万亿次(10^12)操作。
集邦咨询认为有两股主要力量推动 AI PC 商用和落地:
其一,由终端应用需求推
另外,关于你对AI性机器人哪些特征最关心这一问题,有超40%的网友重点关注软硬件的使用体验情况,23%的网友更加关心其价格与寿命,21%的网友对于使用易用性方面更为关注,仅有13%的网友关心软硬件更新迭代的问题。
当地时间周二微软首席执行官萨蒂亚・纳德拉(Satya Nadella)表示,他发现全球在人工智能方面正在形成共识。纳德拉认为,尽管各国对监管这项技术的方式方法可能不同,但探讨人工智能的方式都很相似。
纳德拉在瑞士达沃斯举行的世界经济论坛上表示,有必要在关于人工智能的问题上建立全球协调机制,并就这项技术的标准和适当规范达成一致。
OpenAI 在博客中阐述道:“我们的目标是打造一个系统,它能够收集和‘编码’公众对我们模型行为的看法,并将这些宝贵的见解融入我们的产品和服务中。这样一来,我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”
马斯克周一把这段视频发布在了X上。视频显示,特斯拉“擎天柱”站在一张桌子旁,慢慢地叠起一件黑色衬衫,似乎没有受到外力的任何帮助。马斯克在发布视频时只是简单地说了一句:“擎天柱在叠衬衫。”
2023年可以说是生成式AI狂飙突进的一年,以ChatGPT为代表的生成式AI从实验室走向了大众,在全球范围内掀起了一场革命性的变革。
1 月 15 日消息,据路透社报道,韩国电池企业 SK On 计划最早于 2026 年开始大规模生产磷酸铁锂(LFP)电池,为多家汽车制造商供货。
在刚刚结束的2024 CES上英伟达发布了大量聚集PC端的AI应用和GPU新品。包括GeForce RTX 40 SUPER系列显卡,NVIDIA AI Workbench,开源库TensorRT-LLM,以及生成式AI驱动的语音和动画模型在内的NVIDIA ACE微服务。
仅仅在今年前两周(9个交易日),特斯拉股价已经累计蒸发了逾940亿美元(约合6684亿元人民币)。这是该公司自2010年上市以来开年市值遭遇的最大滑坡。从跌幅来看,特斯拉股价自今年1月初以来已下跌了12%,创下了自2016年以来的最差表现。2016年前9个交易日,特斯拉股价累计下跌了14%。
据国内媒体报道,今年CES期间,联想发布了多达40多款智能终端产品,包括10多款AI PC相关产品。
联想集团执行副总裁、中国区总裁刘军在CES接受媒体采访时表示,非常看好AI PC在未来几年刺激用户更换新机,带动PC市场增长。
北京时间1月13日 Open AI突然更新其使用政策,为其技术应用于军事领域打开了大门,过去其明确禁止将技术投入到“军事和战争”为目的的应用中,而今这样的话语已经消失。
因此,盖茨先补录了一段对于奥特曼问候,看看他现在的状态。盖茨打电话给奥特曼,问他现在的近况。奥特曼回应称,真是太疯狂了,他没事,这是一个非常激动人心的时刻。
这款设备可通过移动终端(包括手机、电脑、平板电脑等)进行控制,还拥有一个可动的“头部”—— 显示器部分可完成部分运动,号称为开发者提供了通过物理设备将 AI 带入现实世界的可能性。
OpenAI称,GPT Store将在周三首先面向付费ChatGPT用户开放,里面将汇集用户为各种任务创建的聊天机器人。例如,定制版ChatGPT可以教孩子数学,或者想出各种鸡尾酒配方。它将包含用户选择公开分享的聊天机器人,最终将为用户引入创收方式,很像苹果或谷歌应用商店提供的赚钱思路。
GPT Store,或称为GPTs,相当于大模型领域的苹果App Store,是OpenAI在去年首届开发者大会上发布的重磅产品,用户无需任何代码,全程支持可视化点击操作。GPT Store允许用户列出他们为其他人构建的个性化聊天机器人,以供下载。更直白的说,就是让用户开发的自定义ChatGPT助手进行分享,当有其他人使用这一产品时,进行付费赚钱。
微软和 PNNL 借助人工智能,筛选了 3200 万种潜在材料,并在 80 小时时间内将名单缩小到 23 种,其中 5 种是已知材料。团队表示如果使用传统方法获取这些材料,这个过程将耗时二十多年。
根据HardareLuxx媒体编辑Andreas Schilling收到的消息,英伟达已确认停产RTX 4080和4070 Ti显卡。同时,RTX 4070显卡由599美元下调到549美元。
在本篇文章中,适道将综合Coatue、a16z、Radical Ventures等明星VC预言;The Information、FT、Sifted汇集的投资者预言;以及Greg Brockman等行业大佬的观点,试着归纳接下来一年中AI的发展脉络。
英伟达同时还称,已与中国汽车制造商GWM(长城汽车)、ZEEKR(极氪)和小米达成合作,这几家厂商已采用NVIDIA DRIVE Orin平台为其智能自动驾驶系统提供动力。
马克・古尔曼(Mark Gurman)在最新一期“Power On”中透露:苹果计划在 6 月份的全球开发者大会(WWDC)上推出一系列基于生成式人工智能的工具。
古尔曼表示,这些新工具将作为 iOS 18 的一部分出现在大家眼前,包括一个改进版的 Siri。新版 Siri 据称将具备更自然的对话能力,并提供更加个性化的用户体验。
抛开世界末日论不谈,我们所有人都将不得不应对他人的超级聪明、可能具有操控欲的代理人。我们将把自己的日常活动和日常选择的控制权,从购物清单到约会日程,交给人工智能助手,他们也将与我们的家人、朋友和陌生人的代理人进行互动。随着它们越来越具有独立性,我们的智能助手可能最终会代表我们做出不好的决定或交易。
论文作者、美国加州机器情报研究所卡特娅·格拉斯称,大多数人工智能研究者并不认为先进人工智能毁灭人类是非常难以置信的。我认为,这种认为存在非微小风险的普遍看法比确切的风险百分比更能说明问题。