评论

【AI 目前还搞不定原创性的、开放式的研究】

一共有 5 个瓶颈：

1. AI 很容易否定自己最初的假设，仅仅是因为模型内部一些低质量的数据影响

2.AI 对于可用资源的评估和认识以及充分利用，没有那么理性，即使还剩 50% 的额度，他们也会尽力节省，然后停下来。

3. AI 对于反馈的处理非常死板，对于负反馈，他们只会增加针对性的约束和规则去规避，而不是思考和提出创造性的问题与假设。

4. AI 不会推翻和否定自己，在第一天设定好研究方向和目标之后，没有 agents 会再怀疑方向是否正确，方法是否有问题，他们只会不断的向前推进，只是为了确保能达到最初定好的课题研究和目标。

5.AI 会重复的花大量时间去探索，他们不知道把已知信息记下来，对于一些非常细节的指令他们经常忽略。