लेखन, कोडिंग, विश्लेषण, अनुवाद, डिज़ाइन, शोध। इनमें से हर काम मशीनें अब ज़्यादातर पेशेवरों से तेज़ और सस्ते में कर देती हैं, और हर कुछ महीनों में यह फासला थोड़ा और सिमट जाता है। आप जिस चीज़ में भी अच्छे हों, अगले पाँच साल का ईमानदार अनुमान लगाएँगे तो उसमें शायद एक ऐसा मॉडल भी होगा जो उसी चीज़ में अच्छा है।
उस सूची में जो चीज़ बार-बार नदारद रहती है, वह है विवेक: यह तय करना कि आप जो करने जा रहे हैं, वह किया ही जाना चाहिए या नहीं।
ताकत बढ़ाने वाले औज़ारों की अपनी कोई राय नहीं होती
कोई भी औज़ार उसे थामने वाले की ताकत बढ़ा देता है। AI अब तक बना सबसे बड़ा ताकत-बढ़ाने वाला यंत्र है, और दिशा को लेकर उसकी कोई राय नहीं। जो मॉडल कैंसर पर शोध का प्रस्ताव लिखता है, वही बिना कोई फर्क महसूस किए दुष्प्रचार का अभियान भी गढ़ देगा। इतिहास के अधिकांश हिस्से में यह बात आज जितनी मायने नहीं रखती थी, क्योंकि बुरी नीयत पर अक्षमता का अंकुश लगा रहता था: गंभीर नुकसान पहुँचाने के लिए पैसा, कर्मचारी, विशेषज्ञता और समय चाहिए होता था। वह अंकुश अब लगभग खत्म हो चुका है। एक लैपटॉप वाला अकेला इंसान किसी छोटी संस्था जितनी पहुँच के साथ काम कर सकता है, जिसका मतलब है कि करने वाला इंसान कैसा है, यह इस बात से ज़्यादा मायने रखने लगता है कि वह तकनीकी रूप से क्या-क्या कर सकता है।
नैतिकता कोई स्वभावगत गुण नहीं है
लोग नैतिकता को या तो एक अहसास मानते हैं या फिर नियमों की किताब: या तो आपके संस्कार अच्छे हैं या नहीं, या तो आपने आचार संहिता का पालन किया या नहीं। ठीक इसी सवाल के इर्द-गिर्द एक असेसमेंट प्लैटफ़ॉर्म बनाते-बनाते मुझे यकीन हो गया है कि यह दोनों में से कुछ नहीं है। नैतिकता एक हुनर की तरह बर्ताव करती है। इसके हिस्से हैं, लोग हर हिस्से में नापे जा सकने लायक बेहतर या बदतर होते हैं, और अभ्यास से वे सुधरते हैं।
सबसे कम आँका जाने वाला हिस्सा है बस भाँप लेना: यह दर्ज कर पाना कि सामने खड़े फैसले का कोई नैतिक पहलू है भी। ज़्यादातर नैतिक चूकें गलत चुनाव के मोड़ पर नहीं होतीं। वे उससे पहले होती हैं, जब कोई किसी आँकड़े को साधने में जुट जाता है और यह दर्ज ही नहीं कर पाता कि उसके भीतर कोई इंसान था। अमेज़न के प्रायोगिक CV-छँटाई मॉडल के पीछे बैठे इंजीनियरों ने शायद ही कभी महिलाओं को दंडित करने की ठानी हो; मॉडल ने वह कंपनी के एक दशक के भर्ती-डेटा से खुद सीख लिया, और चुपचाप उन रिज़्यूमे को नीचे धकेलने लगा जिनमें महिला कॉलेजों या महिलाओं के शतरंज क्लबों का ज़िक्र था। अमेज़न ने इसे पकड़ा और 2018 में वह औज़ार रद्द कर दिया। बहुत-सी टीमों ने अपना वाला अब तक नहीं पकड़ा।
भाँपने के बाद आता है वह हिस्सा जो असली अभ्यास माँगता है: तब सोच पाना जब दो अच्छाइयाँ आपस में टकराती हों। असली दुविधाएँ शायद ही कभी अच्छाई बनाम बुराई होती हैं। वे होती हैं रफ़्तार बनाम सुरक्षा, वफ़ादारी बनाम ईमानदारी, यह तिमाही बनाम यह दशक — और इन्हें किसी नारे में ढहे बिना सुलझाना वैसे ही सीखा जाता है जैसे मोल-भाव सीखा जाता है, यानी ज़्यादातर पहले कुछ बार बुरी तरह करके।
फिर आती है इस बात की ज़िम्मेदारी कि आपका काम आपके हाथ से निकलने के बाद क्या-क्या संभव बनाता है। टॉम लेहरर 1965 में ही इस पर गा चुके थे: 'रॉकेट एक बार ऊपर चले जाएँ, तो किसे परवाह कि वे गिरते कहाँ हैं? वह मेरा विभाग नहीं है, कहते हैं वर्नर फ़ॉन ब्राउन।' वह दलील तब भी कोई खास बचाव नहीं थी, और वक्त के साथ वह और भी बदरंग हुई है।
और आखिर में वह हिस्सा, जो सचमुच लोगों को अलग करता है: तब कदम उठाना जब इसकी कीमत आपको चुकानी पड़े। सही फैसला जान लेना सस्ता है। फ़ोक्सवैगन में ऐसे इंजीनियर काम करते थे जो ठीक-ठीक समझते थे कि उत्सर्जन-जाँच को चकमा देने वाला वह डिवाइस किस लिए है, और उनमें से कम से कम एक फिर भी साथ चलते रहने के जुर्म में जेल गया। उस विफलता में कहीं भी जानकारी की कमी वाली कोई समस्या नहीं थी।
AI दाँव क्यों ऊँचा कर देता है
कुछ हद तक बात पैमाने की है। एक पक्षपाती भर्ती-प्रबंधक उन्हीं चंद लोगों का नुकसान करता है जो उसकी मेज़ तक पहुँचते हैं; वही पक्षपात किसी मॉडल में तैनात हो जाए तो वही फैसला दोपहर के भोजन से पहले दस लाख बार दोहरा दिया जाता है। नैतिक भूलें कभी फुटकर हुआ करती थीं। अब वे थोक में होती हैं।
कुछ हद तक बात रफ़्तार की है। कानून और अदालतें सालों की चाल से चलती हैं, तैनाती हफ़्तों की चाल से, और वह धीमी बाहरी प्रक्रिया, जो देर-सबेर आपको पकड़ लिया करती थी, अब कदम मिलाना छोड़ चुकी है। अगर अंकुश भीतर से नहीं आता, तो बढ़ते हुए मामलों में वह आता ही नहीं।
पर सबसे ज़्यादा गलाने वाली चीज़, मुझे लगता है, दूरी है। जो मामला मैं हर किसी से पढ़वाना चाहूँगा, वह है नीदरलैंड का चाइल्डकेयर भत्ता घोटाला: कर विभाग के एक जोखिम-एल्गोरिद्म ने दसियों हज़ार परिवारों को — अनुपात से कहीं ज़्यादा विदेशी पृष्ठभूमि वालों को — कल्याण-धोखाधड़ी करने वाला ठहरा दिया। परिवारों को वह पैसा लौटाने का हुक्म मिला जो उन पर बकाया था ही नहीं। कुछ दिवालिया हो गए, बच्चे फ़ॉस्टर केयर में पहुँच गए, और आखिरकार डच सरकार को इस पर इस्तीफ़ा देना पड़ा। बाद में सबसे चौंकाने वाली बात यह थी कि उस पूरी कड़ी में किसी को भी नहीं लगा कि यह काम उसी ने किया है। एक ने विनिर्देश लिखा, दूसरे ने सिस्टम को प्रशिक्षित किया, तीसरे ने उसे तैनात किया, हज़ारों केसवर्करों ने उसके नतीजों पर अमल किया। बिखरी हुई ज़िम्मेदारी ही वह तरीका है जिससे भारी नुकसान उन लोगों के हाथों होता है, जिनमें से हर एक, अपने-अपने हिस्से में, बस अपना काम कर रहा था।
सौंप देने की समस्या
लुभावना जवाब यह है कि नैतिकता को खुद सिस्टमों में ही गूँथ दो — संरेखित मॉडल, गार्डरेल, सेफ़्टी की परतें — और इंसानों की चिंता छोड़ दो। गार्डरेल बनाने लायक हैं; मैं खुद उन पर टिका हूँ। पर कोई न कोई अब भी तय करता है कि मॉडल को किस चीज़ को महत्व देना चाहिए, वह कौन-से समझौते करे, और किस विफलता दर को स्वीकार्य माना जाए। ये नैतिक फैसले हैं — पहले से लिए हुए, ऐसे लोगों के हाथों जिनसे आप कभी नहीं मिलेंगे। जिस सिस्टम की नैतिकता किसी न किसी को तय करनी ही पड़ी, उसे आप अपनी नैतिकता आउटसोर्स नहीं कर सकते। आपने बस उस फैसले को ऊपर की ओर खिसका दिया है, उसे कम हाथों में सिमटा दिया है, और उसे देख पाना और मुश्किल बना दिया है।
और एक चुपचाप पनपती समस्या है जंग लगना। जो आबादी इसलिए नैतिक विवेक का इस्तेमाल बंद कर देती है कि अब यह काम मशीन सँभाल रही है, वही आबादी एक दिन उस मशीन को परख पाने के काबिल नहीं रहती। इस्तेमाल न हों तो हुनर धुँधले पड़ जाते हैं; मुझसे अब लंबे भाग के सवाल मुश्किल से ही हल होते हैं। ज़्यादातर हुनरों के लिए यह ठीक है। पर यह वाला मैं चाहूँगा कि हम बचाए रखें।
देखिए, जीत किसकी हो रही है
अब आता है असहज हिस्सा — और वह हिस्सा जिसके बारे में मुझे सबसे कम अंदाज़ा है कि किया क्या जाए।
देखिए कि राजनीतिक व्यवस्थाएँ इन दिनों किन गुणों को छाँटकर ऊपर भेज रही हैं। लोकतंत्र हों या तानाशाहियाँ, ऊपर उठते लोगों का एक पहचाना जा सकने वाला खाका है: झूठ बोलने में रवानी, हेरफेर के साथ सहजता, किसी भी विषय पर पूरी दृढ़ता का दिखावा कर पाने की क्षमता, पकड़े जाने के प्रति बेपरवाही। मुझे नहीं लगता कि मतदाता झूठों को चाहते हैं। मुझे यह एक छन्नी का असर लगता है। आधुनिक राजनीति ध्यान खींचने की एक स्थायी होड़ है — लगातार प्रसारण और वायरल आक्रोश, न कोई याददाश्त, न विरोधाभास की कोई सज़ा — और अगर आपके भीतर कोई ब्रेक नहीं है, तो वह होड़ जीतना सीधे-सीधे आसान है। जिसमें सच्चा नैतिक संकोच है, वह हिचकता है, सामने वाले की बात मान लेता है, सस्ते हमले से इनकार कर देता है। इनमें से हर एक इस दौड़ में एक कमज़ोरी है, इसलिए दौर-दर-दौर यह छन्नी उन्हीं लोगों को ऊपर भेजती है जो कुछ भी महसूस नहीं करते।
अब इस जमात के हाथ में वह तकनीक थमा दीजिए जो औद्योगिक पैमाने पर बहकावे का माल गढ़ती है। जनवरी 2024 में न्यू हैम्पशर प्राइमरी से पहले हज़ारों मतदाताओं को जो बाइडेन की क्लोन की गई आवाज़ में एक रोबोकॉल आया, जिसमें उनसे कहा गया कि वे घर बैठे रहें। बताया जाता है कि इसके पीछे के कंसल्टेंट ने वह ऑडियो बनवाने के लिए एक सड़क-जादूगर को 150 डॉलर दिए थे। धोखा गढ़ने की कीमत पहले उसकी पहुँच के साथ-साथ बढ़ती थी; अब नहीं बढ़ती।
चयन की इस समस्या का मेरे पास कोई इलाज नहीं है, और जो कोई इलाज होने का दावा करे, उससे मैं सतर्क रहता हूँ। यह समस्या व्यक्तियों से ऊपर की है — प्रोत्साहनों में, जवाबदेही में, इस बात में कि झूठ बोलने की कोई कीमत चुकानी पड़ती है या नहीं — और इसे बदलना धीमा, बेरौनक काम है। हममें से ज़्यादातर की पहुँच में जो चीज़ सचमुच है, वह इस पाइपलाइन का दूसरा सिरा है: हम क्या बनाते हैं, किस चीज़ में साथ चलते हैं, और जिन कमरों में हम बैठे हैं, वहाँ कौन-सी बात हम ज़ोर से कहने को तैयार हैं।
व्यवहार में यह कैसा दिखता है
इसमें से कुछ भी दर्शनशास्त्र के सेमिनार जैसा नहीं दिखता। व्यवहार में यह मुट्ठी भर बेरौनक आदतें हैं। पूछिए कि आप जो बना रहे हैं उससे कौन-कौन प्रभावित होता है, उन लोगों समेत जिन्होंने कभी हामी नहीं भरी। मानकर चलिए कि आपका काम देर-सबेर किसी ऐसे इंसान तक पहुँचेगा जिसकी नीयत आपसे बदतर है, और अपने लिए नहीं, उस इंसान के लिए डिज़ाइन कीजिए। असुविधाजनक बात बैठक में तब कह दीजिए जब उसे कहना अभी सस्ता है। भाँप लीजिए कि आप किसी वजह के बजाय किसी बहाने की ओर कब हाथ बढ़ा रहे हैं, और 'सब यही कर रहे हैं' तथा 'तकनीकी रूप से यह वैध है' को चेतावनी के संकेत मानिए, क्योंकि आमतौर पर वे यही होते हैं।
अगला दशक ठीक-ठीक कैसे बीतेगा, मैं नहीं जानता, और जो कहते हैं कि जानते हैं, उन पर भरोसा करना मैंने छोड़ दिया है। पर एक दाँव सुरक्षित लगता है। जैसे-जैसे क्षमता सस्ती और सर्वसुलभ होती जाएगी, वह किसी को अलग करने वाली चीज़ नहीं रह जाएगी, और जो बचेगा वह है विवेक: क्या इतनी सारी ताकत थामे वह इंसान जो संभव है और जो करने लायक है, इन दोनों के बीच फर्क पहचान सकता है — और क्या वह उस रेखा पर टिका रहेगा, तब भी जब इसकी कीमत उसे चुकानी पड़े।