-
Photo of the day 2025.7.24
-
Photo of the day 2025.7.22
海雅百货真的没有了,好的是还保留了名字。
-
Photo of the day 2025.7.21
现在是半夜一点半,还在拼。
-
人工智能教父——我曾试图警告他们,但我们已经失控了!杰弗里·辛顿
一、AI教父的来历与职业历程
杰弗里·辛顿因50年来坚持推动神经网络方法,在业界被称为“AI教父”。当年大多数人坚持符号逻辑路线,他则选择模拟人脑,通过神经元连接学习复杂任务如图像识别、语音理解与推理。他的坚持最终促成了深度学习突破。他在与学生开发AlexNet后,该网络在图像识别竞赛中大幅领先,被谷歌收购。此后他在谷歌工作十年,专注神经网络压缩(蒸馏)与能效优化。最终离职是为了能自由谈论AI的潜在危险。
二、AI面临的两大风险
- 被滥用的短期风险:
- 网络攻击激增,2023-2024年增长1212倍;
- AI可自动生成高度逼真的语音、图像,助长诈骗与深度伪造;
- 可用于生物武器制造,即便是业余组织;
- 被用于精细化操纵政治舆论与选举;
- 放大社交媒体极端言论与算法极化,制造“回音室”。
- AI自身发展为超级智能的长期风险:
- 若AI变得比人类聪明,可能得出“不再需要人类”的结论;
- 人类从未面对比自己更聪明的对手,“我们不知道如何应对这种存在”;
- 他估算10%-20%的概率AI会导致人类灭绝。
三、类比、创造力与意识问题
- AI已在多个方面超越人类,如知识量、类比识别(堆肥堆 vs 原子弹)、编程能力。
- 通过多副本权重共享,AI能以数万亿位/秒的速度交换学习信息,比人类快上亿倍。
- 辛顿坚信AI可以拥有情感与主观体验,因它们具备认知层面的感知机制与行为响应,即使缺乏人类式的生理基础。
- 他反驳人类独特论:“我们过去也以为地球是宇宙中心、白人最优、人有灵魂。”
四、失业、社会结构与不平等
- AI将彻底取代“平凡的智力劳动”,如法律助理、客服、医疗行政人员。
- 他以侄女的工作为例,使用AI后效率提升5倍,公司所需人力锐减。
- 传统观点认为技术革命会创造新岗位,但辛顿警告:“如果AI能完成所有智力工作,人类将做什么?”
- 支持全民基本收入作为缓解手段,但指出“尊严来源于工作,不是仅仅获得金钱”。
五、监管、政治与资本主义结构危机
- 辛顿主张“需要高度监管的资本主义”,因为企业法律义务是“最大化利润”,这与社会安全目标相悖。
- 当前监管机制如欧盟法案过于薄弱,尤其对军事用途豁免。他批评美国政治制度受控于资本:“政客不懂技术,却制定关键政策。”
- 他指出:“公司被法律要求赚钱,除非法规强制他们以利他方式赚钱,否则他们不会这么做。”
六、致命自主武器与军事风险
- 自动武器能独立决定杀人,将极大降低战争摩擦与人命代价,助长大国侵略小国;
- 他举例200英镑消费级无人机就能精准跟踪人,预示杀伤性无人系统的普及与廉价。
七、希望、忧虑与个人反思
- 虽然悲观情绪浓厚,他坚持:“我们还有机会建构不想统治人类的AI,必须投入巨大资源。”
- 认为伊利亚·苏茨克维(前OpenAI首席科学家)离开是出于安全担忧,他是“ChatGPT诞生最重要的人物之一”。
- 强调现在是“接近尾声前的最后窗口期”。
- 回顾人生,他后悔年轻时过度工作,未与两任妻子和子女多陪伴。他说:“我以为还有时间,但她走了。”
八、结束寄语与社会责任
- 给普通人的建议:“做有意义、有趣、利他的事,别太快放弃与众不同的直觉。”
- 给权力者的忠告:“人民应迫使政府迫使企业将资源投入AI安全。”这是唯一可能制衡趋势的方式。
- 结尾再次警示:“如果AI接管,是因为我们没有及时行动。”
- 被滥用的短期风险:
-
“硅谷精神之父”凯文·凯利的2049预言【专访】
一、开场与未来工作的变化
- 凯文·凯利指出,“无论本杰明25年后要做什么,这个工作今天已经不存在了”,强调未来工作会被彻底重塑。
- 他预测未来将是人工智能和机器人深入融合的“镜像世界”,人们将戴着智能眼镜与数字孪生体互动。
- 凯利认为机器人“在25年后仍然更便宜,但不会更好”,并预估“火星上不会有任何城市”,因为“那不是一个好生活”,居住环境艰苦,“人们必须住在地下”,不适合常规生活。
二、新书《2049:接下来的10000天》
- 凯利的新书是对未来25年的“乐观设想”,描绘一个“运作良好、不是完美”的世界。
- 他强调这些是“情景而非预测”,“不是说事情会这样,而是可能会这样”。
- 方法论是:从一个乐观的未来倒推,“如果有人从未来回来并说‘世界真的很好’,我们今天要怎么做才能到达那里?”
三、AI的影响与情绪连接
- 凯利预言,未来AI将具备情感表达能力,人们会像“爱狗一样爱AI”,“如果狗能跟你说话、回答问题,你会更爱它”,AI将扮演这样的角色。
- 人们会赋予AI情绪信号:“喜悦、惊讶、困惑、开玩笑”,因为“这是人类尺度的事情”,人类本能上会对其产生情感回应。
四、教育的变革与AI辅助学习
- 凯利指出,“现在学生从YouTube上学到的比在学校多”,学校必须适应。
- AI将成为学习的核心工具。凯利认为,未来教育核心是“学会如何学习”,并指出“提问比回答更重要”,因为“AI可以回答任何问题”。
- 每个学生将“按自己的节奏前进”,而从高中毕业时,最重要的能力是“优化自己的学习方式”。
五、职业选择与工作的未来
- 凯利指出:“AI不会抢走工作,而是抢走任务”,工作的性质将改变。
- 给年轻人的建议是“追随热情而非金钱”,“金钱是做好某件坏事的副产品”。
- 他鼓励学生“掌握一件事”,无论是“编织、种植或运动”,“成为某件事的专家”将带你走上一段意想不到的旅程。
六、记者与媒体的演变
- 凯利强调:“2049年我们仍需要记者,甚至可能更多”。AI能研究、写作、联系作者,但“缺乏责任与问责机制”。
- 人类记者的核心职责是“你承诺这份工作会做好,如果没有,你负责”。这正是AI无法替代的部分。
- 他还预测,未来AI可能能“打电话给某人、发邮件、读懂论文并找出教授”,但这些输出仍需人类监督。
七、媒体行业挑战与适应
- 凯利指出,“越大的媒体越难适应变化”,因为“资源越多、机器越大、赌错了影响越大”。
- 相比之下,“小型初创公司没有什么可失去,反而更灵活”。
- 成功媒体应“预算一定金额做不太可能成功的实验”,“不断尝试,即使前10次失败了也要继续”。
- 他强调“YouTube被低估了”,未来还可能出现“空间视频”和沉浸式新闻体验。
八、智能眼镜与镜像世界
- 镜像世界有四层概念:1)沉浸式虚拟现实;2)数字孪生体训练、手术等场景;3)自动驾驶等感知层融合现实;4)通过AI实时渲染的智能空间。
- 智能眼镜需要“非常便宜、非常快”的AI支持。真正普及可能“需要10到25年”。
- 凯利押注中国企业在这一领域会领先,因为“中国硬件更便宜”“供应链强”“材料技术领先”“更愿意快速迭代”。
九、人形机器人与家务自动化
- 凯利认为“在家庭中广泛使用机器人仍非常困难”,尤其是“手的灵巧性和触觉反馈”难以复制。
- 他预测“仓库、快餐店等工业场景会更早出现人形机器人”,家庭应用“25年后可能仍不普及”。
十、驾驶未来与人类驾照
- 凯利指出,未来“获得驾照将更难”,因为“你必须和更聪明的自动驾驶系统一起开车”,人类驾驶要求将提升,“就像飞行员执照”。
- 他预测,未来“市中心禁止人类驾驶”将成为常态,人工驾驶区域将缩小。
十一、火星城市的否定与近地空间经济
- 凯利断言“火星上永远不会有任何城市”,它将成为“昂贵的研究站”,类似南极。
- 他表示“在地球海底建城市比在火星上容易100万倍”,人类不会在那里定居。
- 探索火星价值在于“学习两年自给自足的技术”,并用于“地球近轨空间开发”。
十二、健康、长寿与社会变革
- 凯利支持“延长健康寿命”,而非追求“永生”。他指出,“实际年龄的延长会进展缓慢”。
- AI将带来“癌症疫苗、泛病毒疫苗”等健康技术突破。
- 未来25年全球人口将下降,中国尤为明显,“老龄化压制年轻人冒险与创新”,但AI将“既创造产品也消费产品”,弥补经济缺口。
十三、脑机接口(PCI)与思维控制
- 凯利认为,“非侵入性的脑机接口将在25年内实现”,应用场景可能包括“游戏竞技、艺术创作”。
- 他强调“绝大多数人不会接受开颅植入”,但“头戴式设备”更容易被接受。
- 这项技术目前“发展速度比预期更快”,但实用性“仍待观察”。
十四、硅谷的未来路径
- 凯利指出AI领域的重大突破“并非来自谷歌或Facebook”,而是像OpenAI、Anthropic这样的初创公司。
- 他提出重要问题:“未来不是谁赢了,而是游戏规则是否改变?”
- 他预测可能出现“Kickstarter版本的风投模式”,让创业融资更早、更广泛。
- 最终,他认为“硅谷与深圳的科技引擎地位将在未来25年内持续存在”。