写作、编程、分析、翻译、设计、研究。机器如今把这每一样都做得比大多数专业人士更快、更省，而且差距每隔几个月就再缩小一点。无论你擅长的是什么，诚实地展望五年，大概率会看到一个同样擅长它的模型。
始终没有出现在那份清单上的，是判断力：决定你正要做的这件事，究竟该不该做。
放大器没有立场
工具会放大握着它的人。AI是有史以来最大的放大器，而它对方向毫无立场。同一个模型，既能起草一份癌症研究计划，也能起草一场造谣攻势，且丝毫察觉不出二者的区别。在历史的大部分时间里，这件事远没有今天要紧，因为恶意曾被无能所限：要造成真正的破坏，需要金钱、人手、专业知识和时间。这道闸门如今基本没了。一个人加一台笔记本电脑，就能拥有一个小型机构的行动力——这意味着，做事的是什么样的人，开始比他技术上能做什么更重要。
伦理不是一种性格
人们往往把伦理当成一种感觉，或一本规则手册：要么你三观端正，要么不端；要么你遵守了行为准则，要么没有。恰恰围绕这个问题搭建一个测评平台的经历，让我确信它两者都不是。伦理表现得像一种能力。它由若干部分构成，人们在每一部分上的高下可以被测出来，而且都会随练习而提高。
最被低估的那一部分，是简单的察觉：意识到眼前这个决定原来带有道德维度。大多数伦理失败并不发生在选错的那一刻，而发生在更早的时候——有人只顾优化某个指标，却从未意识到指标背后是一个活生生的人。亚马逊那个实验性简历筛选模型背后的工程师，想必从没打算刻意惩罚女性；是模型自己从公司十年的招聘数据里学会了这一点，悄悄给提到女子学院或女子国际象棋俱乐部的简历降分。亚马逊发现了问题，在2018年废掉了这个工具。而不少团队的工具，至今没被发现。
察觉之后，才是真正需要练习的部分：在两种好东西相冲突时进行推理。真正的两难很少是善与恶的对决。它们是速度与安全、忠诚与诚实、这个季度与这个十年。要在其中周旋而不退化成一句口号，得像学谈判那样去学——多半是先笨拙地搞砸几次。
然后，是为你的成果离手之后所促成的一切负责。汤姆·莱勒早在1965年就唱过这件事：“火箭一旦升空，谁管它落在哪儿？那不归我的部门管——冯·布劳恩如是说。”这句辩解在当年就站不住脚，如今更是老得难看。
最后，是真正把人和人区分开的那一部分：在需要付出代价时行动。知道什么是对的，很廉价。大众汽车雇用的工程师完全清楚那套尾气作弊装置是干什么用的，其中至少有一位因为照样配合而进了监狱。那场失败，没有一丝一毫是知识问题。
为什么AI抬高了赌注
一部分原因是规模。一个带偏见的招聘经理，伤害的是经过他案头的少数几个人；同样的偏见部署进一个模型，会在午饭前把一模一样的决定重复上百万次。伦理上的差错过去是零售，如今成了批发。
一部分原因是速度。立法和法院以年为单位运转，部署以周为单位推进，那个终究会逮住你的缓慢外部流程，已经跟不上了。如果约束不来自内部，那就越来越可能根本不存在。
但我认为，最具腐蚀性的部分是距离。如果只让所有人研究一个案例，我会选荷兰育儿补贴丑闻：税务机关的一套风险算法把数万个家庭标记为福利欺诈者，其中外国背景的家庭比例畸高。这些家庭被勒令退还他们根本不欠的钱。有人因此破产，有孩子被送进寄养家庭，荷兰政府最终为此集体辞职。事后最刺眼的一点是，这条链条上没有任何人觉得自己是“干了这件事的人”。一个人写了规格说明，另一个人训练了系统，又一个人把它部署上线，成千上万名办事员照着它的输出执行。责任被稀释，正是巨大的伤害由一群“各自都只是在做本职工作”的人酿成的方式。
把判断委托出去的难题
一个诱人的回应，是把伦理内置进系统本身——对齐的模型、护栏、安全层——然后不再操心人的问题。护栏值得建，我自己也依赖它们。但总得有人来决定：模型应当看重什么、做出怎样的权衡、多高的失败率算可接受。这些都是道德判断，被提前做出，出自一些你永远不会见到的人之手。你无法把伦理外包给一个其伦理本就得由某个人来设定的系统。你只是把判断挪到了上游，集中到了更少的人手里，并让它更难被看见。
更安静的问题是萎缩。一个因为机器代劳、便不再运用道德判断的群体，终将成为一个无力评判那台机器的群体。能力弃而不用便会消退；我现在连长除法都快不会做了。对大多数能力来说，这无所谓。但这一项，我宁愿我们留住。
看看是谁在赢
接下来是让人不舒服的部分，也是我最说不准该拿它怎么办的部分。
看看如今的政治系统在筛选什么。无论民主国家还是威权国家，往上爬的人都有一副眼熟的面孔：撒谎娴熟，操纵从容，对任何事情都能装出十足笃定，被拆穿也毫不在乎。我不相信选民想要骗子。我认为这是一种筛选效应。现代政治是一场永不停歇的注意力争夺战——不断广播、病毒式的愤怒，没有记忆，自相矛盾也不必付出代价——而这场比赛，对内心毫无刹车的人来说就是更好赢。一个真有良知的人会犹豫，会承认对方有理，会拒绝下作的攻击。这每一样都是竞争上的劣势，于是一轮又一轮，这台筛子把那些心里毫无波澜的人不断往上送。
现在，把一项能以工业规模量产说服力的技术，交到这类人手里。2024年1月新罕布什尔州初选前，数千名选民接到了一通以拜登克隆语音打来的自动电话，劝他们待在家里别去投票。据报道，操盘此事的政治顾问只花了150美元，请一名街头魔术师生成了那段音频。制造欺骗的成本，过去会随它的触达范围一起增长；现在不会了。
对这个筛选问题，我没有解药，而且我提防任何声称自己有的人。它位于个体的上游，藏在激励机制、问责、以及撒谎究竟要不要付出代价之中，而改变这些是缓慢又不起眼的工作。对我们大多数人来说，真正够得着的是管道的另一端：我们造什么，我们配合什么，以及在自己身处的那些房间里，我们愿意把什么大声说出来。
落到实处是什么样
它一点也不像哲学研讨课。落到实处，是几条不起眼的习惯。问一问你正在造的东西会影响到谁，包括那些从未选择参与的人。假定你的成果终将落到一个动机比你更坏的人手里，为那个人而设计，而不是为你自己。在说那句不中听的话代价还很低的时候，就在会上把它说出来。留意自己什么时候是在找借口而不是找理由，并把“大家都这么干”和“这在法律上没问题”当作警报——因为它们通常正是警报。
未来十年究竟怎么走，我说不准，而且我已经不再相信任何声称说得准的人。但有一注看起来是稳的。当能力变得廉价而普及，它就不再是任何人的区分度，剩下的只有判断力：握着这么大杠杆的那个人，能不能分清“能做”与“值得做”之别，以及在坚守这条界线需要付出代价时，守不守得住。