Anthropic的S-1上市文件同时也是一份AI末日警示
Anthropic首次公开募股（IPO）的招股说明书用了94页篇幅阐述风险因素。文件警告，如果先进AI系统的开发缺乏适当的安全保障，可能对人类构成灾难性或生存性风险。文件将递归自我改进列为关键担忧之一，即AI系统接管AI研究工作。Anthropic还把这一过程称为“闭环”，并将其描述为一项重大优势。批评人士、前员工和部分国会议员对此提出了担忧，由伯尼·桑德斯（Bernie Sanders）支持的一项法案提议禁止这种做法。
0 位关注者
最新
这家初创公司押注递归自我改进，其最新模型表现惊人
初创公司 Recursive（递归公司）发布了 Flint，这是一款开放权重的 AI 编程模型，其首席执行官 Richard Socher 表示，该模型主要由 AI 开发。Socher 称，公司的 Eureka Machine（尤里卡机器）自动化了该模型开发的大部分步骤，使一个小团队得以构建出一款他声称在编程任务上优于同等规模模型的模型。Socher 表示，该系统由人类监督，人类可以随时停止这一过程。一些专家警告，自我改进型 AI 可能变得危险，国会的多项法案提议禁止这种方法。一名记者在个人电脑上测试 Flint 后发现，它在编程任务中速度快、能力强。