围绕人工智能的悲观声音日益增多，部分来自科幻反乌托邦的想象，但更多源于现实：掌握这项技术的主体曾许下诸多美好承诺，然而真正落地、带来普遍收益的例子寥寥。Anthropic的首席执行官达里奥·阿莫代伊在社交媒体上指出，目前对包括其公司在内的人工智能企业，最贴近事实的批评是——这些承诺还没有兑现。他认为，公众对这项技术正在产生“信任危机”，根本原因在于人们怀疑企业和政府会利用技术谋取不当利益。

公关宣传难以解决这种不信任。人工智能兴起之初，许多推广把重点放在说服高层决策者：未被充分验证的技术也值得投入。结果，部分行业领袖将人工智能描绘为大规模削减人力成本、替代员工的工具。有报道称，在一些私下场合，所谓的“专家”甚至预测未来十年会抹去大量劳动力，从而使某些公司获得巨大的控制力与财富——这种话语往往能赢得在场高管的掌声。阿莫代伊自己曾一度提到人工智能可能会造成大量白领岗位消失，但后来又把表述调整为把人工智能视为“产出倍增器”，意指在不显著提高薪酬的情况下提升生产效率。

真正的检验在于实际成果。阿莫代伊强调，我们听过太多关于人工智能能做什么的空谈，却很少看到真正实现的效果。比如若有人宣称人工智能能治愈癌症，公众会把这种说法视为误导；真正有用的，是把技术用来真正解决这些疾病。Anthropic表示正在加大在生物学和医疗方向的投入，但到目前为止，还没有看到实质性的成果展示。 球友会

权力集中与监管平衡也是他关心的议题。阿莫代伊注意到人工智能的发展正带来权力聚集，这一点与其他科技领袖的担忧相呼应。他认为需要在监管、监督、测试和模型开放之间找到平衡，并对“前沿节奏”运动中主张对顶尖实验室实施管控的做法抱一定认同，认为适度的约束可以调节技术推进的速度。