AI可靠性相关AI资讯 | 赢政天下 AI

Probably获900万美元融资，打造零幻觉AI

AI初创公司Probably宣布完成900万美元融资，旨在解决大语言模型最棘手的幻觉与事实错误问题。其目标是将AI的准确率提升至与数据库、规则引擎等确定性系统相媲美的水平，从而让企业用户放心信任AI输出。本轮融资由知名风投领投，将用于技术研

AI系统在各个领域的应用需要明确其行为并评估其可靠性。MLCommons的AI风险与可靠性工作组专注于提高AI可靠性，这不仅能推动市场增长，还能保护社会安全。通过制定详细计划并实施，确保AI系统在不同阶段的可靠性。

并非只有AI怀疑论者提醒用户不要盲目相信AI模型输出，AI公司自身在服务条款中也明确警告这一点。微软Copilot的使用条款直言其‘仅供娱乐目的’，凸显生成式AI的可靠性隐患。这一表态引发热议，反映出行业对AI‘幻觉’问题的普遍担忧，也提醒

CollectivIQ初创公司推出创新方案，通过同时调用ChatGPT、Gemini、Claude、Grok等10余款AI模型，提供用户更准确的查询响应。面对单一AI模型易产生幻觉和偏差的问题，该平台聚合多模型输出，让用户直观比较并选择最佳