AI 资讯简报 2023-03-03 12时

💬 DeepMind致力于负责任的AI研究，旨在产生真正的实际影响。他们最近的一些工作集中在调整系统价值观、理解行为和减少伤害方面。

💬 DeepMind致力于负责任的AI研究，旨在解决对话代理人存在的毒性或歧视性语言和虚假信息问题。最近的研究聚焦于将系统价值观与人类价值观保持一致，理解行为并减少伤害。

💬 理解人工智能行为是创建公平、透明和准确系统的关键部分。DeepMind的研究人员探讨了哲学和语言学的答案，以建立对话涉及合作的共同目标概念，研究其在科学、民主辩论和创意故事等三个领域的应用。

💬 DeepMind的研究人员探索了哲学和语言学的答案，通过三个领域（科学、民主辩论和创意叙事）研究了对话涉及共同目标合作的概念，并探讨了如何解决对话代理产生的问题。

💬 AI训练自己的因果模型来解释自己的行为，以实现公平、透明和准确的系统。通过在模拟环境中实现该方法来展示如何生成忠实的解释。

💬 与@babylonhealth和@CoMind_的合作研究引入了一种新的统计衡量标准，称为反事实伤害。该方法能够克服标准方法的问题，以避免追求有害的政策。

💬 确保AI不会造成伤害，需要让AI能够推理出伤害并避免损害行为。DeepMind最近推出一种新的统计方法，通过训练AI系统构建其因果模型，让其能够以有意义的方式解释自己的行为，从而将伤害因素纳入算法决策中。作者们在模拟的三维环境中实现了这种方法，展示了智能体如何生成忠实的解释。

💬 DeepMind在AI领域的安全和伦理工作中采取负责任的先锋行动，介绍了一项名为反事实伤害的新型统计措施，以避免追求有害政策。

💬 DeepMind感谢多位学者为他们的安全伦理工作做出贡献，他们致力于在AI领域成为负责任的先锋，并提供了更多信息。

📰 邮件应用BlueMail的联合创始人表示，由于担心不适当内容，苹果阻止了一次更新，该更新增加了由ChatGPT驱动的功能，要求设置17岁以上的年龄限制。

💬 夏威夷大学的最新研究表明，可以使用3D身体形态来跟踪身体组成的变化，而无需使用DXA扫描。研究使用了#SMPL技术来适配原始扫描数据，这是#SMPL在人类健康方面的应用之一。

💬 测试Whisper + GPT3.5 turbo在@VoicepenAI上的效果，使用无代码和OpenAI的API部署非常快速，今天稍后将部署它。

💬 似乎ChatGPT是他们为此提供的唯一Web用户界面。

💬 感谢@Replit和@NVIDIAAI组织活动！期待与@amasad和@pirroh进行互动面板讨论，聊聊AI领域的最新进展。

💬 ChatGPT与Zapier集成，具有内置记忆键来构建机器人以记住过去的对话！

💬 ChatGPT的成本越来越低，可以处理大量的源代码和文本，例如生成整个Linux源代码只需花费约1800美元，处理整个哈利波特系列小说只需4.3美元。经济规模的优势很明显。

💬 介绍了“Grounded Decoding”，这是一种从LLM解码接地文本以供机器人使用的可扩展方式。

💬 两位用户在社交媒体上交流了他们之间的友谊和关于人工智能的讨论

📰 福特汽车推出全资子公司Latitude AI，由前Argo AI员工运营，最初专注于推广一种无需双手、无需注视的驾驶辅助系统。

💬 ChatGPT可以匹配Linux源代码的令牌长度，并且可能会记住Linux的相当一部分。生成整个Linux源代码只需大约1800美元，Copilot很快将成为一项便宜的实用工具，没有财务上的借口不为每个团队部署它。

💬 ChatGPT API可用于模拟代理之间的对话

💬 通过更改聊天上下文，可以将第三方代理程序添加到聊天中，ChatGPT API可用于模拟两个代理程序之间的对话

💬 人们写点条目然后使用ChatGPT扩展为礼貌的电子邮件发送，发送者再使用ChatGPT压缩为关键点

💬 一家好几个机器人将成为习惯，新的人形机器人公司Figure正在建造自主人形机器人，计划实现一人一个机器人

📰 介绍TikTok的Bold Glamour滤镜，专家称其可能使用了生成对抗网络技术，人们担心此工具可能会伤害用户的自尊心。尽管TikTok上月推出了新的滤镜AI工具，但该公司并没有透露其新的Bold Glamour效果是否使用了它们......

💬 介绍了新的开源Flan-UL2 20B检查点，没有表格，采用Apache许可证，是MMLU/Big-Bench硬件上最好的操作系统模型，比Flan-T5 XXL更好，与Flan-PaLM 62B竞争。Flan系列的尺寸上限得到了提高。

📰 本文介绍了谷歌研究团队如何将安全聚合（SecAgg）和分布式差分隐私（DDP）相结合，以增强联合学习的隐私保护。谷歌应用此技术于 Smart Text Selection 模型的训练，使用数据最小化原则对聚合的模型更新和指标进行保护。优化的协议和编排提高了 SecAgg 协议的效率和可扩展性。DDP 是一项技术，它在协调训练的诚实但好奇的服务器方面提供 DP 保证。它通过在每个参与设备上本地剪辑和噪音更新，然后通过上述新的 SecAgg 协议聚合这些嘈杂的剪辑更新来工作。

💬 测试ChatGPT中在“系统”和“消息”中放置上下文的强度，当用户消息发送相反的上下文时，会覆盖系统提示，但如果作为助手消息发送，则不会覆盖。

💬 讨论了将上下文放入“系统”和“消息”中的强度，测试结果显示将相反的上下文作为用户消息发送会覆盖系统提示，但作为助手消息则不会。

💬 没有提示消息时测试结果更为负面，与助手消息中的提示相比影响不大，但确实有影响

💬 根据 OpenAI 的新价格，翻译工作的价值越来越低。有人使用 ChatGPT 翻译英文书并觉得效果不错，认为这个用法好。比较 ChatGPT 和 DeepL 的翻译，感觉 ChatGPT 略胜一筹。

💬 用户消息指令比上下文指令权重更高，导致用户能够覆盖ChatGPT的保护措施，建议增加上下文指令权重。

📰 本文介绍了如何使用AI生成与你喜欢的作家相似风格的写作，并举办了一个90分钟的订阅者研讨会，教授基本提示和Fine Tuning GPT-3的方法

💬 作者正在开发一个AI生成的演示文稿制作工具，可以根据简单输入自动生成演示文稿的颜色、字体和图片等，但还需要构建输入UI和身份验证功能。作者在推特上发布了该项目的名称和原型，名为“AutoDeck 1.0”和“Large Language Model as an API”。

📰 CNET的首席编辑将离职，担任Red Ventures的AI内容策略和大型编辑，此前她曾为CNET的AI工具辩护。

💬 如果我们能够建立一个智能代理的模拟世界，我们可以假设它们将达到一个模拟世界的点，从而不断创建一个模拟世界的链。如果我们同意这一点，问题就变成了......

📰 Brave Search推出Summarizer，使用其自己训练的LLM为某些查询提供搜索结果摘要，以对抗“未经证实的断言”。

💬 关于在OpenAI Playground中使用Chat GPT参数的讨论。

💬 同传圈的人需要寻找新工作了，自学成才成为一个prompt engineer可能是一条可行的路

💬 互联网公司和非互联网公司的差别已经消失，但AI公司和非AI公司的差别仍存在，未来大家必须全面AI化。需要拥抱变化，善用AI做工具为自己所用。

💬 比较gpt 3.5和gpt 3的区别，包括参数，训练数据和RLHF人工反馈微调等；介绍了RLHF的概念和挑战。

💬 GPT-3.5和未发布的GPT-4参数数目大约在175-2000亿之间，可能搜索结果有误。

💬 我们很荣幸被列入Fast Company每年发布的2023年全球最具创新力公司名单。AI可能是人类最有用的发明之一，我们致力于安全、负责任地构建这项技术....

📰 采访前《纽约时报》照片编辑弗雷德·里钦，探讨人工智能对照片可信度的破坏、确保读者了解图像是否被篡改等问题。