大模型日报

 

2024-04-22

 

大模型资讯

 

1. Mistral与Mixtral大型语言模型对比：7B、8x7B及8x22B

 

• 摘要: 最近，IT新闻频道广泛报道了新公开的Mixtral 8x22B模型，该模型在多项基准测试中超越了ChatGPT 3.5版本，尤其在MMLU等测试中表现突出。本文将对比Mistral和Mixtral系列中的7B、8x7B以及8x22B大型语言模型的性能和特点。

 

1. Meta Llama 3：大型语言模型技术的新进展

 

• 摘要: Meta Llama 3作为新一代大型语言模型，带来了重大技术突破。该模型扩展了词汇量，增加了上下文长度等能力，显著提升了语言处理的性能。这一进展预示着在自然语言理解和生成方面的显著改进。

 

1. 专家警告：语言模型可能产生有害回应

 

• 摘要: 随着OpenAI的ChatGPT不断推进自动文本生成技术，研究人员提出警告，认为需要采取更多措施来防止潜在的风险。他们强调，语言模型可能会产生有毒回应，因此需要加强监管和改进技术，以确保其安全、负责任地使用。

 

1. 苹果可能即将揭晓其下一款重大产品：先进的大型语言模型AI

 

• 摘要: 据报道，苹果正在开发一种名为大型语言模型的先进人工智能技术，这可能是其下一个主要项目。这项技术将内置于设备中，预计将在不久的将来公布。业界对此次大公告的内容和潜在影响充满期待。

 

1. Gurman爆料：iOS 18将采用全设备端LLM加强AI功能，提升隐私与速度

 

• 摘要: 据Gurman消息，苹果公司即将发布的iOS 18操作系统将通过全设备端的大型语言模型(LLM)来增强其人工智能功能。这一改进将带来隐私保护和速度提升的双重好处。近几个月来，苹果发布的研究材料显示，公司正在大量投资于各种人工智能技术。

 

1. Meta推出开源AI模型Llama 3，性能高效且部分区域可通过Meta AI访问

 

• 摘要: Meta公司最新推出的人工智能模型Llama 3，以其高性能和在特定区域通过Meta AI的可访问性而受到关注。该模型旨在提升AI技术的应用效率和普及度，预计将对AI领域产生重大影响。

 

1. 苹果将在iOS 18中推出设备内置大型语言模型以增强AI功能

 

• 摘要: 最新报道称，苹果正在开发自己的大型语言模型（LLM），旨在通过iOS 18为iPhone用户带来更强大的人工智能功能。这项技术将使得设备能够在不依赖云服务器的情况下处理复杂的AI任务，提升用户体验。

 

1. 苹果开发可在设备上运行的大型语言模型以增强AI功能

 

• 摘要: 据彭博社的马克·古尔曼报道，苹果正在开发一种大型语言模型（LLM），该模型能够在设备上直接运行。这样做的目的是为了提高处理速度并保障用户隐私。这项技术将用于生成性AI功能，强调本地处理而无需依赖云端服务器。

 

1. iOS 18将采用设备内处理提升AI性能

 

• 摘要: 苹果宣布，iOS 18中的生成式AI功能和大型语言模型（LLMs）将完全在设备上运行，不再依赖云端处理。这一变化旨在为iPhone用户带来更快速的操作体验和更高的可靠性。通过这种方式，苹果强化了用户隐私保护，同时也提高了AI应用的响应速度。

 

1. 德州大学奥斯汀分校开发'Inheritune'提升语言模型训练效率

 

• 摘要: 德州大学奥斯汀分校研发了名为'Inheritune'的技术，旨在提高语言模型的训练效率。该技术通过利用继承机制和减少数据需求，实现了与传统模型相媲美的性能表现，有助于降低训练成本和时间。

 

大模型产品

 

1. Univi：管理您的ADHD

 

• 摘要: Univi是一款针对成人ADHD的移动应用程序，提供基于认知行为疗法的课程、AI个性化冥想及ADHD规划器。今日注册用户可免费使用至2025年5月。

 

1. Stylar AI设计草图转换

 

• 摘要: Stylar的AI Design Sketch能将手绘草图转化为高清产品图片。无论是鞋子、汽车、家具还是科技小玩意，只需上传草图，选择风格，即可获得详尽的产品形象。

 

1. Sonnet：自动化会议记录与CRM

 

• 摘要: Sonnet是您的全方位AI会议助手，无需会议机器人即可自动生成会前简报、定制化会议笔记，并实现CRM自动化，从而让您的对话更加高效。

 

1. AllMind AI：个人股票分析师

 

• 摘要: AllMind AI是您的财经分析师，提供集中的实时市场数据和洞察。它大幅缩短研究时间，降低成本，并在各项财经任务中超越GPT-4、Gemini和Opus。

 

1. 聊天机器人竞技场：寻找最佳构建器

 

• 摘要: 「聊天机器人竞技场」让您对比各AI聊天机器人构建器的功能、价格和性能，帮助您选择最适合自己需求的产品。

 

1. Skyla：定制Shopify聊天助手

 

• 摘要: Skyla是专为Shopify设计的客服代表，基于ChatGPT技术，完全可定制。无需再浪费时间，现可免费尝试所有功能，无需承诺。

 

1. GrowASO:智能应用商店优化工具

 

• 摘要: GrowASO是一款AI驱动的应用商店优化工具，旨在提升iOS和Android应用的下载量。通过发现关键词、追踪排名，优化商店列表和应用图标，增加访问者和提高转化率。

 

1. 智能定制旅行行程：itinerary.today

 

• 摘要: itinerary.today是一款AI驱动的旅行行程构建工具。用户仅需预订航班和酒店，提供感兴趣的活动，选择模板，即可获得个性化、可打印的旅行计划。

 

大模型论文

 

1. MoVA:多模态视觉专家混合模型

 

• 摘要: MoVA模型通过粗细粒度机制，动态选择并融合视觉专家，提升多模态大型语言模型对图像内容的理解能力。在多模态基准测试中显著提高性能。

 

1. 统一场景表征与3D重建

 

• 摘要: 本文提出Uni3DR²框架，通过预训练的2D模型和3D解码器，实现了3D几何与语义的统一表征。在ScanNet和ScanQA数据集上，相较于基线模型取得了显著提升。

 

1. 皮肤病AI中的零样本概念生成

 

• 摘要: 研究利用基础模型CLIP和大型语言模型（如GPT-3.5）生成医学领域对齐的文本，以提升皮肤病AI中零样本概念分类性能。

 

1. 样本设计工程：提升LLMs细调效果

 

• 摘要: 本文提出样本设计工程（SDE），旨在通过优化输入输出和推理设计，提高大型语言模型（LLMs）的细调后性能。通过ID和OOD实验，揭示了影响LLMs性能的关键设计模式，并验证了SDE策略的有效性。

 

1. LLM-ADE:适应性数据工程的LLMs

 

• 摘要: 本文介绍了LLM-ADE框架，一种针对大型语言模型的持续预训练新方法。该方法通过动态结构调整，解决了灾难性遗忘和双重下降问题，提升了模型对新数据的适应性，保留了既有知识，有效提高了TinyLlama模型的性能。

 

1. 增强随机基准的上下文学习

 

• 摘要: 研究提出了一个更强的随机基准方法，用于评估小数据集上的语言模型上下文学习分类性能。该方法通过考虑多个随机分类器的最大预期准确度，更有效地预测模型性能，避免不必要的测试集评估。

 

1. Groma:多模态语言模型视觉定位

 

• 摘要: Groma是一种多模态大型语言模型，具备精细的视觉感知能力。通过局部视觉标记化，实现区域级图像理解和文字输出的视觉定位。

 

1. 对话系统评估的用户反馈影响

 

• 摘要: 本研究探讨了用户反馈对任务导向型对话系统评估的影响。通过比较有无用户后续话语的两种评估方法，发现用户反馈显著影响评分结果，尤其是在有用性和趣味性方面。研究结果强调用户反馈在系统评估中的重要性，并提供了相关数据支持未来研究。

 

1. FineRec:细粒度序列推荐研究

 

• 摘要: 本文提出了FineRec框架，通过从评论中提取属性-意见对，构建用户-意见-物品图，采用多样性感知的卷积操作和交互驱动融合机制，实现了细粒度序列推荐，优于现有方法。

 

1. 多模态语言模型的逆向推理能力

 

• 摘要: 研究创建了CFMM基准，专门评估多模态大型语言模型（MLLMs）的逆向推理能力。实验显示MLLMs在处理逆向问题时存在认知偏差，表现出对视觉信息的过度依赖，暗示了未来提升模型智能的发展空间。

 

大模型开源项目

 

1. ollama：多大型语言模型启动项目

 

• 摘要: ollama项目让用户快速启动和运行Llama 3、Mistral、Gemma等大型语言模型。该项目使用Go语言编写，便于开发者使用和集成。

 

1. Meta-LLama项目：AI代码推理

 

• 摘要: Meta-LLama是一个Github热门AI项目，提供用于CodeLlama模型的推理代码。该项目使用Python语言编写，旨在优化和简化机器学习模型的推理过程。

 

1. Meta Llama 3官方GitHub项目

 

• 摘要: Meta Llama 3项目现已登陆GitHub，这是一个用Python语言编写的趋势AI项目。它可能涉及机器学习、数据分析或其他人工智能领域的内容，吸引了开发者和技术爱好者的广泛关注。

 

1. Meta-LLMA: 提升大型语言模型安全

 

• 摘要: Meta-LLMA是一个用Python编写的项目，旨在提供一套工具，用于评估和增强大型语言模型（LLM）的安全性，帮助研究人员和开发者保障AI系统的安全运行。

 

1. mudler：开源OpenAI替代品

 

• 摘要: mudler是一个免费的开源项目，旨在成为OpenAI的自托管、社区驱动的本地化替代品。无需GPU，支持在消费级硬件上运行各种模型架构，包括gguf、transformers、diffusers等，可生成文本、音频、视频和图像内容，并具备语音克隆功能。项目使用C++语言编写。

 

1. PhidataHQ：构建具备记忆的AI助手

 

• 摘要: PhidataHQ是一个用Python编写的开源项目，旨在创建拥有记忆、知识和工具的AI助手，以提升用户交互体验。

 

1. Mozilla-Ocho：单文件分发运行LLMs

 

• 摘要: Mozilla-Ocho项目，使用C++编写，旨在简化大型语言模型（LLMs）的分发与运行流程，实现通过单一文件进行操作。

 

1. GitHub热门AI项目：langchain-ai

 

• 摘要: langchain-ai是一个没有提供描述的GitHub趋势AI项目。该项目使用Python语言编写，可能涉及到自然语言处理、机器学习或相关的人工智能技术。

 

1. C/C++实现的LLM推理项目

 

• 摘要: ggerganov项目是一个Github上的AI趋势项目，专注于使用C++语言实现大型语言模型（LLM）的推理过程。