आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल आज लगभग हर क्षेत्र में तेजी से बढ़ रहा है। कंपनियां रिपोर्ट तैयार करने, रिसर्च, डेटा विश्लेषण और दस्तावेज बनाने जैसे कई कार्यों में AI की मदद ले रही हैं। हालांकि, इसी तकनीक पर अत्यधिक निर्भरता अब कई संस्थानों के लिए चिंता का कारण भी बन रही है। हाल ही में दुनिया की प्रमुख प्रोफेशनल सर्विस कंपनियों में शामिल PwC एक ऐसे ही मामले को लेकर विवादों में आ गई है।
मीडिया रिपोर्टों के अनुसार, PwC ने मध्य पूर्व (Middle East) क्षेत्र के लिए कई थॉट लीडरशिप रिपोर्ट तैयार की थीं, जिनका उद्देश्य नई तकनीकों और कारोबारी रुझानों से जुड़ी जानकारी उपलब्ध कराना था। लेकिन बाद में इन रिपोर्टों में कई ऐसी जानकारियां सामने आईं, जिनका कोई विश्वसनीय आधार नहीं था या जो तथ्यात्मक रूप से गलत थीं। जांच में सामने आया कि इन रिपोर्टों का बड़ा हिस्सा AI की मदद से तैयार किया गया था।
क्या है AI Hallucination?
विशेषज्ञों के अनुसार, इस मामले की मुख्य वजह AI Hallucination रही। यह वह स्थिति होती है जब कोई AI मॉडल आत्मविश्वास के साथ ऐसी जानकारी प्रस्तुत कर देता है जो वास्तविकता में मौजूद ही नहीं होती या पूरी तरह गलत होती है। कई बार AI काल्पनिक आंकड़े, फर्जी शोध, गलत संदर्भ या ऐसे स्रोत भी प्रस्तुत कर देता है जिनका कोई अस्तित्व नहीं होता। यदि इन जानकारियों का मानवीय स्तर पर सत्यापन न किया जाए, तो वे आधिकारिक दस्तावेजों का हिस्सा बन सकती हैं।
AI क्यों करता है ऐसी गलतियां?
AI का उद्देश्य उपयोगकर्ता के हर सवाल का उत्तर देना होता है। कई बार जब उसके पास सटीक जानकारी उपलब्ध नहीं होती, तब भी वह संभावित उत्तर तैयार कर देता है। यही वजह है कि कुछ उत्तर पढ़ने में विश्वसनीय लगते हैं, लेकिन उनमें तथ्यात्मक त्रुटियां होती हैं। कई मामलों में AI गलत स्रोतों का हवाला भी दे देता है, जिससे भ्रम और बढ़ जाता है।
विवाद सामने आने के बाद PwC ने उठाए कदम
रिपोर्ट्स के मुताबिक, गलती उजागर होने के बाद PwC ने संबंधित रिपोर्टों को अपनी वेबसाइट से हटा दिया। कंपनी का कहना है कि वह पूरे मामले की समीक्षा कर रही है और भविष्य में ऐसी स्थिति से बचने के लिए कंटेंट तैयार करने और उसकी जांच की प्रक्रिया को और मजबूत बनाया जाएगा।
पहले भी सामने आ चुके हैं ऐसे मामले
यह पहला अवसर नहीं है जब किसी बड़ी कंपनी को AI की गलत जानकारी के कारण आलोचना का सामना करना पड़ा हो। पिछले कुछ वर्षों में कई संस्थानों ने स्वीकार किया है कि AI द्वारा तैयार सामग्री में तथ्यात्मक त्रुटियां पाई गईं। इसी वजह से तकनीकी विशेषज्ञ लगातार सलाह देते रहे हैं कि AI से तैयार किसी भी सामग्री को प्रकाशित करने से पहले उसका मानव स्तर पर सत्यापन आवश्यक है।
कंपनियों के लिए अहम सबक
AI कार्यों को तेज और आसान जरूर बना सकता है, लेकिन उसे पूरी तरह भरोसेमंद स्रोत नहीं माना जा सकता। यदि बिना जांच के AI से तैयार सामग्री सीधे ग्राहकों या आम लोगों तक पहुंचाई जाती है, तो इससे कंपनी की विश्वसनीयता और प्रतिष्ठा पर नकारात्मक असर पड़ सकता है।
विशेषज्ञों का मानना है कि रिसर्च, स्वास्थ्य, कानून, वित्त और नीति निर्माण जैसे संवेदनशील क्षेत्रों में AI का उपयोग हमेशा मानवीय निगरानी और तथ्य जांच के साथ ही किया जाना चाहिए। PwC का यह मामला एक बार फिर इस बात की याद दिलाता है कि AI एक प्रभावी सहायक उपकरण है, लेकिन अंतिम निर्णय और तथ्य सत्यापन की जिम्मेदारी इंसानों की ही रहती है।
