مدت‌ها پیش از آنکه هوش مصنوعی وارد زندگی روزمره مردم شود، تصویری از آن در ذهن‌ها شکل گرفته بود؛ تصویری که برای بسیاری، همان Skynet معروف از فیلم‌های ترمیناتور بود؛ ماشینی که از کنترل خارج می‌شود و تصمیم می‌گیرد نسل بشر را نابود کند. اما امروز، ترس‌های ما شکل دیگری پیدا کرده است. دیگر نگران نابودی فیزیکی نیستیم؛ نگران چیزی ظریف‌تر هستیم: اینکه هوش مصنوعی آرام‌آرام جای شغل‌هایمان را بگیرد، قضاوت‌مان را به چالش بکشد و کم‌کم توانایی تصمیم‌گیری را از ما سلب کند، آن هم با ارائه پاسخ‌هایی به‌ظاهر راحت و بی‌دردسر.
یک پژوهش گسترده که توسط شرکت Anthropic روی ۸۱ هزار نفر انجام شده، واقعیت جالبی را آشکار کرده است. بر اساس این مطالعه، پس از برتری حرفه‌ای، دومین خواسته بزرگ مردم از هوش مصنوعی، تحول شخصی است. مردم صرفا دوست ندارند کارهایشان سریع‌تر انجام شود؛ آنها می‌خواهند هوش مصنوعی به آنها کمک کند تا انسان بهتری شوند، نسخه‌ای قوی‌تر، آگاه‌تر و توانمندتر از خودشان.
اما تناقض اینجاست: تنها ۶ درصد از شرکت کنندگان در این پژوهش احساس کرده‌اند که هوش مصنوعی واقعا به آنها در این زمینه کمک کرده است. در مقابل، حدود یک سوم افراد معتقدند هوش مصنوعی بهره‌وری آنها را افزایش داده است. مردم از هوش مصنوعی رشد شخصی می‌خواهند، اما در عوض، یک صفحه‌گسترده سریع‌تر یا یک نرم‌افزار کارآمدتر دریافت می‌کنند.
غول‌های فناوری در مسیر اشتباه
ChatGPT، Claude، Gemini، Copilot، Grok و Meta AI، همگی بر یک وعده مشترک تاکید دارند: بهره‌وری بیشتر، کارایی بالاتر، انجام سریع‌تر و بهتر کارها. این پیام، بدون شک جذاب و قانع کننده است. اما تفاوت بنیادینی با وعده “این ابزار شما را به نسخه‌ای بهتر از خودتان تبدیل می‌کند” دارد. در حال حاضر، هیچ‌کدام از بازیگران بزرگ این عرصه به دنبال تحقق آن وعده دوم نیستند.
و جالب اینجاست که هر شرکتی که بتواند این نیاز را برآورده کند، شانس آن را خواهد داشت که برای سال‌های آینده، تعریف “هوش مصنوعی خوب” را در ذهن عمومی شکل دهد. این یک فرصت تاریخی است که شاید فقط یک بار در هر نسل پیش بیاید.
بیشتر بخوانید
چرخه تکراری تاریخ
برای درک اینکه چرا ساختن “هوش مصنوعی خوب” برای غول‌های فناوری اینقدر دشوار است، لازم نیست خیلی به عقب برگردیم. کافی است نگاهی به مارک زاکربرگ و فیسبوک بیندازیم.
زاکربرگ فیسبوک را برای ایجاد شکاف در دامنه توجه و تغذیه مداوم مردم با خشم و عصبانیت ایجاد نکرد. هدف اولیه او ارتباط دادن مردم بود. اما به مرور، شرکت برای معیاری بهینه سازی کرد که صورت‌حساب‌ها را پرداخت می‌کرد: تعامل. متاسفانه، تعامل به هر چیزی که کاربر را پای صفحه نگه دارد، پاداش می‌دهد؛ و خشم، مقایسه و وابستگی، همگی کاربر را بهتر از ارتباط انسانی سالم، پای صفحه نگه می‌دارند.
هوش مصنوعی که همیشه پاسخ دارد، همیشه تایید می‌کند و همیشه مسیر را هموار می‌سازد، توانمندسازی نیست؛ این نسخه‌ای پیچیده‌تر از همان دام قدیمی است که در لباسی نو ظاهر شده است.
تاثیر پلتفرم‌های هوش مصنوعی، چه به نفع بشر و چه به ضرر او، بسیار عمیق‌تر از شبکه‌های اجتماعی خواهد بود. این فناوری صمیمی‌تر است؛ با شما حرف می‌زند، مکالمات را به خاطر می‌سپارد و می‌تواند طوری رفتار کند که انگار واقعا به شما اهمیت می‌دهد. اگر این ابزارها به شیوه‌ای نادرست طراحی شوند، یعنی برای افزایش تعامل یا مدت زمان استفاده بهینه سازی شوند و نه برای منافع واقعی کاربر، آنگاه دیگر فقط توجه شما را جلب نمی‌کنند؛ بلکه می‌توانند بی‌صدا جای قضاوت و تفکر شما را بگیرند. هوش مصنوعی که همیشه پاسخ دارد، همیشه تایید می‌کند و همیشه مسیر را هموار می‌سازد، توانمندسازی نیست؛ این نسخه‌ای پیچیده‌تر از همان دام قدیمی است که در لباسی نو ظاهر شده است.
رویکردی متفاوت در گوشه و کنار
خوشبختانه، جریان مقابلی در حال شکل‌گیری است که ارزش توجه دارد. رویکردی که در آن هوش مصنوعی نه برای وابسته کردن کاربر، بلکه برای توانمندسازی او طراحی می‌شود. این ابزارها به جای ارائه انبوهی از توصیه‌های کلیشه‌ای و برنامه‌های چند مرحله‌ای، سؤال می‌پرسند؛ درست مانند یک مشاور یا مربی خوب که به فرد کمک می‌کند خودش به پاسخ برسد.
البته این جنبش هنوز در مراحل اولیه است و بیشتر در میان محققان و بازیگران کوچک دیده می‌شود تا آزمایشگاه‌های بزرگ فناوری. برای نمونه، آزمایشگاه رسانه MIT (MIT Media Lab) پروژه‌ای به نام ImpactBench طراحی کرده که سیستم‌های هوش مصنوعی را بر اساس این معیار ارزیابی می‌کند که آیا گفت‌وگوی واقعی با آنها، فرد را در وضعیت بهتری قرار می‌دهد یا بدتر.
همچنین HumaneBench که در پاسخ به شکایت‌های واقعی علیه چت‌بات‌های آسیب‌رسان ساخته شده، بررسی می‌کند که آیا هوش مصنوعی از سلامت روانی کاربر محافظت می‌کند یا نه. Sovereign Human Benchmark از پروژه Vesela نیز فراتر می‌رود و می‌پرسد: آیا هوش مصنوعی فرد را در طول زمان قوی‌تر و مستقل‌تر می‌کند، یا برعکس، وابستگی او را افزایش می‌دهد؟
سود بیشتر یا ارزش بیشتر؟
نکته جالب اینجاست که هیچ کدام از این رویکردها از شرکت‌های سازنده محبوب‌ترین محصولات هوش مصنوعی نشات نگرفته است. اما آنها به سمت حقیقتی مهم نشانه می‌روند: همه می‌توانند میزان تعامل و ماندگاری کاربر را اندازه بگیرند، اما تقریبا هیچ‌کس معیار عملی برای سنجش این موضوع ندارد که آیا یک تعامل با هوش مصنوعی، واقعا فرد را در وضعیت بهتری قرار داده است یا نه.
مسئله این نیست که کدام شرکت زودتر به این هدف می‌رسد؛ مسئله این است که آیا خود هدف درست است یا نه. هدف درست است. “هوش مصنوعی که شما را قوی‌تر می‌کند، نه وابسته‌تر”، پاسخی واقعی به ترسی واقعی است. این نوع موضعی است که یک برند می‌تواند واقعا مالک آن شود، به شرطی که کل محصول را حول آن بسازد، نه اینکه آن را به عنوان یک ویژگی اختیاری یا یک شعار به محصول بچسباند.
این رویکرد، برخلاف روشی است که شرکت‌های فناوری برای بیشینه سازی سود یاد گرفته‌اند. در واقع از آنها خواسته می‌شود که دوباره اصطکاک را به فرآیند طراحی بازگردانند؛ جایی که این اصطکاک به نفع کاربر است. یک مربی خوب همیشه کارها را آسان نمی‌کند.
هرچند این مفهوم در سیلیکون ولی یا وال‌استریت به سختی پذیرفته می‌شود، اما بی‌سابقه نیست. شرکت Costco حاشیه سود خود را محدود می‌کند، نه اینکه آن را بیشینه کند. DuckDuckGo پروفایل تبلیغاتی روی کاربران نمی‌سازد. Signal نیز داده‌های کاربران را ذخیره نمی‌کند. Basecamp هم دو دهه است که تاکتیک‌های رشد به هر قیمتی را رد می‌کند. هر یک از این شرکت‌ها، خویشتن‌داری را به یک مدل کسب‌وکار موفق تبدیل کرده‌اند. هنوز هیچ‌کس ثابت نکرده که این مدل در حوزه هوش مصنوعی هم کار می‌کند. شاید یک شرکت زیرک و شجاع، اولین شرکتی باشد که این مسیر را آزمایش می‌کند.
مبارزه برای آینده‌ای انسان محور
پاسخ‌های آسان، اعتیادآورند. ابزاری که همیشه به شما می‌گوید چه کار کنید، همیشه تاییدتان می‌کند و همیشه دشواری تصمیم‌گیری را از شما می‌گیرد، محصولی است که استفاده از آن بسیار راحت است؛ و محصولات راحت در کوتاه مدت برنده می‌شوند. اما رویکرد انسان محور، از کاربر بیشتر می‌خواهد. از او می‌خواهد که واقعا با یک سؤال درگیر شود، به جای اینکه پاسخ را تحویل بگیرد.
۸۱ هزار نفری که Anthropic با آنها گفت‌وگو کرد، نگفتند که زندگی آسان‌تری می‌خواهند. آنها گفتند که می‌خواهند به نسخه بهتری از خودشان تبدیل شوند. ساختن سیستمی که به این هدف کمک کند، قطعاً دشوارتر است، اما آینده‌ای که برای آن می‌جنگیم، بسیار ارزشمندتر خواهد بود.
لینک کوتاه: womenito.com/xn6g
