两岁女孩头戴摄像头训练大模型，成果登顶刊Science
当我震惊于北邮导师让研究生帮初中小孩当枪手做科研的时候，纽约州立大学的操作让我瞳孔地震。他们认为儿童了解这个世界的方式非常适合用于改进大模型训练。因为现在大模型的训练已经到了力大砖飞的阶段，需要通过不断提高参数改进模型能力，对算力的要求越来越高。而婴儿在成长阶段零星的接触一些东西，就能快速完成物体识别和语义理解。科学家们设计了一套系统，采集婴儿成长时的视频和音频，然后让大模型参与反推和模拟婴儿认知这个世界的方式，实现从有限的收入中学习并形成连贯的世界观。团队追踪25名儿童，每周收集一小时的数据，前后持续11个月，得到名为儿童视角对比学习模型的模型。该模型能够将单词和短语与画面中看到的具体物体对应，并且能够将这样的认知迁移到婴儿视频中没出现的物体上。比如说在数据中看到玫瑰花，但现实中玫瑰花有很多颜色，AAI依然能识别出没见过的玫瑰花。这25个婴儿长大以后去面试，简历上是不是可以写从两岁就开始参与大模型科研？
《探索大模型训练新路径：借鉴儿童认知的神奇之旅》
在当今科技飞速发展的时代，大模型训练成为了热门话题。你是否想过，除了常规的方法，还有什么独特的途径可以改进大模型训练呢？今天，我们就来探索一下借鉴儿童认知方式的神奇之旅。
儿童在成长过程中，展现出了惊人的学习能力。他们通过零星接触周围事物，能快速完成物体识别和语义理解。科学家们敏锐地捕捉到了这一点，并设计了一套创新系统。该系统采集婴儿成长时的视频和音频，让大模型参与反推和模拟婴儿认知世界的方式。
经过团队的不懈努力，追踪25名儿童，每周收集一小时数据，持续11个月，最终得到了名为儿童视角对比学习模型的成果。这个模型能够将单词和短语与画面中的具体物体对应，还能将认知迁移到未出现的物体上。
对于想要深入了解大模型训练的人来说，这无疑是一个全新的视角。它为我们打开了一扇通往更高效、更智能训练方式的大门。无论是科研人员还是科技爱好者，都能从中获得启发。
让我们一起踏上这场探索之旅，借助儿童认知的力量，推动大模型训练迈向新的高度，创造更多可能。
两岁女孩,大模型训练,顶刊Science,儿童认知,物体识别
[Q]：纽约州立大学用儿童方式改进大模型训练的原因是什么？
[A]：大模型训练到力大砖飞阶段，需提参数改进能力，对算力要求高，而婴儿成长阶段接触东西能快速完成物体识别和语义理解，所以适合用于改进训练。
[Q]：科学家们设计了怎样的系统来训练大模型？
[A]：采集婴儿成长时的视频和音频，让大模型参与反推和模拟婴儿认知这个世界的方式。
[Q]：团队追踪儿童训练大模型持续了多久？
[A]：前后持续11个月。
[Q]：得到的儿童视角对比学习模型有什么作用？
[A]：能将单词和短语与画面中看到的具体物体对应，还能将认知迁移到婴儿视频中没出现的物体上。
[Q]：两岁女孩头戴摄像头训练大模型的成果发布在哪里？
[A]：发布在顶刊science上。
[Q]：北邮导师让研究生帮初中小孩当枪手做科研是怎么回事？
[A]：文中提到的令人震惊的现象。
[Q]：25个婴儿长大后简历写从两岁参与大模型科研合理吗？
[A]：文中以疑问形式提出，从经历看有一定特殊性但也引发思考。
[Q]：大模型训练对算力要求为何越来越高？
[A]：处于力大砖飞阶段，需不断提高参数改进模型能力。