هوش مصنوعی میتواند کارهای شگفتانگیز بسیاری انجام دهد. میتواند از روی یک دستور صوتی، پاسخ یک ایمیل را بنویسد، تصمیمات پیچیده تجاری بگیرد و حتی مسائل ریاضی دشوار را حل کند. اما موهبتهای هوش مصنوعی مولد، با یک خطر پنهان همراه است: زوال در دقت و کیفیت دانش سازمانی.
زوال دانش، نسخهای در سطح سازمان از مسئله workslop است، جایی که افراد از هوش مصنوعی برای تولید آثاری استفاده میکنند که ظاهری آراسته اما کیفیتی پایین دارند و در نهایت باعث اتلاف وقت افراد و فرسایش اعتماد میان همکاران میشود. وقتی workslop در مقیاس و به صورت زنجیرهای در فرآیندهای یک کسبوکار رخ دهد، خود آن فرآیندها و خروجیهایشان رو به زوال میروند.
این اتفاق هم در داخل سازمانها و هم در جریانهای خارجی اطلاعات که به آنها متکی هستند، رخ میدهد. خطاها ترکیب و انباشته میشوند. اعتماد به اطلاعات از بین میرود. افراد زمان بیشتری را صرف تایید حقایق میکنند یا ریسک اشتباهات پرهزینه و خطرناک را میپذیرند. در نهایت، افراد شروع به از دست دادن اعتماد به فرآیندهایی میکنند که برای انجام کارهای خود به آنها متکی هستند.
همه اینها سه چالش را پیش روی رهبران قرار میدهد: راستیآزمایی، اعتبارسنجی و آنتروپی. برای مواجهه با این چالشها، سازمانها باید کاربرد هوش مصنوعی مولد و روابط خود با مشتریان، تامینکنندگان و شرکا را بررسی کنند تا اطمینان حاصل کنند که زوال دانش رخ نمیدهد. اگر چنین است، شرکت باید مداخله کند – ایدهآل این است که همراه با شرکای تجاری خود این کار را انجام دهد تا از کیفیت هرگونه اطلاعات داخلی و خارجی اطمینان حاصل شده و بتوان بر اساس آن، تصمیمات آگاهانه اتخاذ کرد.
در ادامه به آنچه رهبران باید بدانند و چگونگی محافظت از سازمانهایشان در برابر زوال دانش اشاره میکنیم.
workslop سازی فرآیندها
زوال دانش زمانی آغاز میشود که سازمان در تضمین کنترل کیفیت خروجیهای هوش مصنوعی مولد توسط کارکنان خود، کوتاهی کند. وقتی کارکنان انسانی، مسئولیت خود را برای ایجاد یا بررسی محتوا از نظر خطا یا نگارش ضعیف کنار میگذارند، یا صرفا تفکر خود را به هوش مصنوعی برون سپاری میکنند، معمولا دیری نمیپاید که دیگران در زنجیره فعالیتهای فرآیند نیز از تلاشهای کیفی دست میکشند. آنها فکر میکنند: “اگر هوش مصنوعی قرار است چیزی را که میفرستم بخواند، من هم برای تولیدش از هوش مصنوعی استفاده میکنم.” در نهایت، یکپارچگی و اعتماد به فرآیند از بین میرود.
فرآیند ساده استخدام یک نامزد جدید برای یک موقعیت شغلی خالی را در نظر بگیرید که اکنون میتواند در هر مرحلهای از هوش مصنوعی استفاده کند. مدلهای زبانی بزرگ در نوشتن محتوا، بهویژه محتوای نسبتا استاندارد مانند شرح شغل و رزومهها و نامههای همراهی که در پاسخ به آنها و با بهینه سازی کلیدواژه نوشته میشوند، خوب عمل میکنند. هوش مصنوعی همچنین قادر به غربالگری و رتبهبندی حجم بالایی از نامزدها (با استفاده از تحلیل کلیدواژه) است.
پس از انتخاب نامزدها، هوش مصنوعی میتواند مصاحبههای رباتیک انجام دهد و کیفیت پاسخهای نامزدها را ارزیابی کند. همچنین از مدیران منابع انسانی میشنویم که نامزدها مخفیانه از مدلهای زبانی بزرگ برای تولید پاسخهای خود در حین مصاحبه بهصورت زنده استفاده میکنند، که این امر تنها با تاخیرهای کوتاهی که با پاسخهای آراسته اما کلیشهای به سوالات همراه است، قابل تشخیص است. علاوه بر این، دانستن این موضوع که یک درخواست شغلی توسط هوش مصنوعی ارزیابی میشود، نامزدها را به سمت سوگیری اطلاعاتشان به نفع تواناییهای تحلیلی سوق میدهد.
تاثیر کلی افزایش توان هوش مصنوعی در هر مرحله، این بوده که اعتماد به فرآیند را برای هم جویندگان کار و هم استخدام کنندگان به پایینترین حد تاریخی رسانده است. یک مطالعه تحقیقاتی اخیر تایید کرد که در حالی که هوش مصنوعی به استخدام کنندگان کمک میکند تا شرح شغلهای بیشتری ارسال کنند، این شرحها کلیتر، کماطلاعاتتر و کمتر به تطابق نامزد منجر میشوند. ما در واقع چه چیزی را ارزیابی میکنیم – اینکه نامزد چقدر با نیازهای نقش خالی مطابقت دارد، اینکه شرکت چقدر با دقت نقش را تعریف کرده است، یا اینکه هوش مصنوعی در هر مرحله از فرآیند چقدر خوب استفاده شده است؟
فرآیند مشابهی در حوزه پژوهش نیز در حال وقوع است. “دانشمندان هوش مصنوعی” مقالههایی تولید کردهاند که برای آنها مطالعه را طراحی کرده، آزمایشها را انجام داده و مقاله را نوشتهاند. میتوان گفت که این امر جهشی عظیم برای بهرهوری پژوهش فراهم میکند، زیرا یک گلوگاه کلیدی در فرآیند (دانشمند انسانی) حذف شده است. همچنین مداخلات هوش مصنوعی محدودتری وجود دارد. افزایش شدیدی در محتوای تولید شده توسط هوش مصنوعی که به مجلات و کنفرانسها ارسال میشود، دیده میشود. برخی از این مقالات دارای نویسندگان و همنویسندگان جعلی هستند – یا به نادرست به نویسندگان واقعی نسبت داده میشوند.
از هوش مصنوعی همچنین توسط انسانها برای نوشتن نقد مقالههای پژوهشی استفاده میشود. در آوریل، مجله Organization Science، که یک مجله برتر در حوزه مدیریت است، مطالعهای در مورد تاثیر هوش مصنوعی بر مقالات ارسالی خود منتشر کرد. سردبیران نوشتند: “حجم ارسالها از زمان انتشار ChatGPT در اواخر سال ۲۰۲۲، ۴۲ درصد افزایش یافته است، در حالی که کیفیت نگارش کاهش یافته است. به نظر میرسد وضعیت فعلی ابزارهای هوش مصنوعی، که با انگیزههای انتشار یا نابودی تقویت میشود، سیستم را به سمت تعادلی از پژوهش بیشتر به جای پژوهش بهتر سوق میدهد.” سایر حوزهها نیز همین روند نگرانکننده را میبینند.
مراقبتهای بهداشتی حوزه دیگری است که استفاده از هوش مصنوعی در آن به سرعت در حال رشد است. به عنوان مثال، تا ۴۰ درصد از پزشکان مراقبتهای اولیه در ایالات متحده از یک ابزار “پشتیبانی از تصمیمگیری و عملکرد بالینی” هوش مصنوعی استفاده میکنند. پزشکان از این ابزارها برای ثبت مکالمات ویزیت بیماران و برای طبقه بندی کدهای درمانی جهت بازپرداخت هزینهها استفاده میکنند. بخشی از این اطلاعات در فرآیند اخذ تاییدیههای اولیه با شرکتهای بیمه به اشتراک گذاشته میشود، که آنها نیز به نوبه خود از هوش مصنوعی برای اتخاذ آن تصمیمات استفاده میکنند.
بی دقتی و استفاده نادرست در هر مرحله از فرآیند میتواند برای بیماران مشکل ایجاد کند و با افزایش اتکای بیش از حد به ابزارهای هوش مصنوعی در طول زمان، به از دست رفتن تدریجی مهارتهای بالینی منجر شود.
سه چالش
مشکلاتی که با هوش مصنوعی مولد پدید میآیند، به یک بخش یا نوع خاصی از کاربرد هوش مصنوعی محدود نمیشوند. سازمانها با سه چالش مشترک روبرو هستند:
راستی آزمایی دانش
اولین چالش، راستی آزمایی درستی محتواست. این امر مستلزم جدا کردن اطلاعات معتبر و دقیق از محتوای تولید شده توسط هوش مصنوعی است که ممکن است حاوی توهمات یا خطا باشد. هرچه هوش مصنوعی توانمندتر میشود، تشخیص سیگنال واقعی از نویز تولید شده توسط هوش مصنوعی و تایید اینکه محتوا واقعا منعکس کننده واقعیت است، برای انسانها دشوارتر میشود.
راستی آزمایی محتوای تولیدشده توسط هوش مصنوعی معمولا فرآیندی پر زحمت است که نیاز به تفکر انتقادی، جستجوی بیشتر و بازبینی دارد. در بسیاری موارد، تلاش انسانی مورد نیاز، بهرهوری حاصل از استفاده از هوش مصنوعی را خنثی میکند. همچنین نگرانیهای کیفی در بسیاری از فرآیندهای تجاری که هوش مصنوعی در آنها استفاده میشود وجود دارد.
برای مثال، در استخدام منابع انسانی، نامزدهای درجه دو ممکن است به گونهای از هوش مصنوعی استفاده کنند که رتبهی بالاتری نسبت به نامزدهای واجد شرایطتری که از هوش مصنوعی استفاده نمیکنند، کسب کنند. ممکن است استخدام کنندگان مجبور شوند زمان بیشتری را برای مصاحبه با نامزدها در محیطهایی که دسترسی به هوش مصنوعی ممکن نیست (مانند یک مصاحبه خوب قدیمی حضوری با یک هیئت) صرف کنند، و همچنین با مصاحبه با برخی نامزدهای درجه دو که فقط به دلیل تطابق خوب پرامپتهای هوش مصنوعی خود با الگوریتم رتبهبندی هوش مصنوعی به جایگاههای برتر صعود کردهاند، زمان را تلف کنند.
اعتبارسنجی دانش
چالش دوم، اعتبارسنجی نحوه و مکان افزودن ارزش توسط انسانهاست. هرکسی که در سمت دریافت خروجیهایی مانند گزارشهای تحلیلی، قراردادهای حقوقی یا بررسیهای کارشناسی قرار دارد، اکنون در موقعیتی است که باید محتوای تولید شده توسط هوش مصنوعی را از محتوای ایجاد شده توسط انسانها که معمولا هزینهی به مراتب بالاتری دارد، جدا کند. برای مثال، به توصیههای یک شرکت مشاوره به مشتری فکر کنید که عمدتا بر اساس استخراج و تحلیل اطلاعات توسط متخصصان انسانی است که بینش و تجربه تخصصی ارائه میدهند.
اغلب این توصیهها در قالب گزارشهای نوشتاری و اسلایدهای پاورپوینت با فرمتهای استاندارد ارائه میشوند که تولید آنها با هوش مصنوعی آسان است. مشتریان معمولا مایل به پرداخت هزینههای بالای مشاوره برای محتوای تولید شده توسط هوش مصنوعی نیستند – بهویژه اگر حاوی توهماتی باشد، مانند آنچه در یک گزارش مشاورهای برای دولت استرالیا کشف شد. متخصصان انسانی اکنون باید نه تنها کیفیت خروجی ارائه شده، بلکه این موضوع را نیز توجیه کنند که کار فکری واقعی انسانی آن را تولید کرده است. و اگر چنین اعتبارسنجی نادیده گرفته شود، سازمانها خطر تخریب ناآگاهانه پایگاههای دانش خود را با محتوای تولیدشده توسط هوش مصنوعی که بینهایت قابل تغییر است، میپذیرند.
این مشکل اعتبارسنجی در صنایع مختلف نمایان شده است. به وکلا هشدار داده شده است که از هوش مصنوعی در تهیه لوایح و استناد به رویه قضایی استفاده نکنند و قضات آنها را در صورت چنین کاری جریمه کردهاند. مقالات مجلات علمی زمانی که مشخص شود استفاده قابل توجهی از هوش مصنوعی بدون افشای مناسب داشتهاند، توسط ناشران پس گرفته میشوند. در ماه می، مخزن معروف پیشچاپ arXiv اعلام کرد که ارسال مقالات دارای توهمات هوش مصنوعی، نویسنده را به مدت یک سال ممنوع الکار خواهد کرد.
دانشجویان درخواست بازپرداخت شهریه کردهاند هنگامی که اساتیدشان استفاده بیش از حد و آشکار از هوش مصنوعی داشتهاند. پزشکان نگران هستند که به دلیل استفاده نادرست از هوش مصنوعی، تحت پیگرد قانونی برای قصور پزشکی قرار گیرند. هوش مصنوعی به طور فزایندهای در کمپینهای سیاسی علیرغم نگرانیها درباره دیپ فیک و اطلاعات نادرست استفاده میشود، و اعتبارسنجی تنها اهمیت بیشتری پیدا خواهد کرد.
آنتروپی دانش
چالش سوم آنتروپی است – زوال تدریجی سیستمها به سمت بینظمی. با افزایش انتقال دانش از طریق هوش مصنوعی، از محتوای اصلی که برای ایجاد آن استفاده شده است، دورتر میشود.
برای مثال، ما با یک ارائه دهنده مراقبتهای بهداشتی صحبت کردیم که اسناد حقوقی طولانی را از شرکتهای بیمه دریافت میکند. آنها میدانند که این اسناد با هوش مصنوعی تولید شدهاند. و از آنجایی که به تعداد زیاد ارسال میشوند، توسط هوش مصنوعی بررسی میشوند، زیرا بررسی انسانی مقرون به صرفه نیست. آنچه در پی میآید یک بازی خطرناک تلفنی مبتنی بر هوش مصنوعی است، زیرا اطلاعات با هر چرخه، بیش از پیش از دانش پایه و واقعی زیرین فاصله میگیرد.
این زوال تابعی از نحوه عملکرد الگوریتمهای ترانسفورمری است که زیربنای همه مدلهای زبانی بزرگ را تشکیل میدهند. هرچه تعداد تکرارهای محتوا از طریق یک مدل زبانی بزرگ بیشتر باشد، بیشتر از محتوای اصلی فاصله میگیرد. تا زمانی که مدلهای هوش مصنوعی مولد از این فناوری زیربنایی استفاده کنند، میتوان آنتروپی را مدیریت کرد، اما نمیتوان آن را ریشهکن کرد.
به همان اندازه که مدلهای زبانی بزرگ میتوانند توهم تفکر و حتی استدلال ایجاد کنند، آنها مدلهای احتمالاتی هستند که خروجیهایی به سبک پیشبینی کلمه بعدی ارائه میدهند. با توجه به دادههای آموزشی در مقیاس بزرگ و منابع محاسباتی، آنها بسیار توانمند به نظر میرسند. اما آنها مدلهای آماری هستند که به بافت توجهی ندارند و هیچ درکی از واقعیت یا حقیقت ندارند و صرفا محتملترین خروجیها را پیشبینی میکنند. ابزارها و رویکردهای جدید کیفیت خروجی را بهبود خواهند بخشید، اما مگر اینکه یک تغییر اساسی در معماری مدلهای ما رخ دهد، این مشکل از بین نخواهد رفت.
نسخه جدیتر این مشکل به نام “فروریزش مدل” شناخته میشود، که زمانی رخ میدهد که مدلهای زبانی بزرگ بر روی دادههای مصنوعی، یعنی دادههای ایجاد شده توسط مدل زبانی بزرگ دیگر یا نسخه قبلی همان مدل، آموزش داده شوند. این مشکل که با نام “همآمیزی مولد” نیز شناخته میشود، در نهایت میتواند بر دقت و تنوع مدل زبانی بزرگ تاثیر بگذارد.
علل و تاثیرات این مسئله از نظر فنی پیچیده است، اما دلیل دیگری است برای تلاش برای حفظ هرچه بیشتر محتوای ایجادشده توسط انسان. مطالعات نشان میدهد که در حال حاضر نیمی از محتوای موجود در اینترنت و رسانههای اجتماعی توسط هوش مصنوعی تولید میشود و به ناچار به دادههای آموزشی برای مدلهای هوش مصنوعی آینده تبدیل خواهد شد. به طور متناقض، جلوگیری از زوال دانش برای کسانی که سیستمهای هوش مصنوعی را ارائه میدهند به همان اندازه برای کسانی که از آنها استفاده میکنند مهم است.
چگونه با زوال دانش مقابله کنیم؟
به نظر میرسد هوش مصنوعی مولد ماندگار است و کنترل استفاده از آن در محل کار عملا غیرممکن به نظر میرسد (بیش از نیمی از کارکنان در یک نظرسنجی بزرگ، استفاده خود از این فناوری را پنهان کرده بودند). بنابراین، رهبران باید یک استراتژی روشن برای مقابله با پیامدهای دانش و فرآیندی این فناوری تدوین کنند.
آنها باید چهار مرحله را در نظر بگیرند.
۱. ریشهیابی دادههای بدون ساختار را پیگیری کنید.
شرکتها دههها است که میدانند ریشهیابی (یعنی تاریخچه مستند) دادههای ساخت یافته برای کیفیت و دقت آن حیاتی است. پیگیری ریشهیابی دادههای بدون ساختاری که با هوش مصنوعی مولد استفاده میشوند نیز به همان اندازه مهم است. شرکتها باید بدانند که اطلاعات “حقیقت پایه” در مقابل محتوای تولید شده چیست.
برای مثال، رونوشتهای مصاحبه با مشتریان به مراتب ارزشمندتر از نقدهای عمدتا تولیدشده توسط باتها در رسانههای اجتماعی هستند، زیرا حاوی احساسات انسانی، حقایق قابل راستیآزمایی و بافت رفتاری پیچیده هستند. الگوها و سیگنالهای نهفته در اینجا اصیل و مرتبط هستند، نه یک خلاصه باز تولید شده از دادههای آموزشی که صرفا شباهت آماری دارد.
و هنگامی که از هوش مصنوعی مولد برای تغییر یا خلاصه سازی محتوا از نظر سبک یا قالب استفاده شده است، به وضوح بیان و ثبت کنید که از چه دادههای حقیقت پایهای برای تولید آن استفاده شده است. این کار محتوای اصیل انسانی را حفظ کرده و به تحلیلگران بعدی اجازه میدهد در صورت لزوم به آن بازگردند. اجرای مجدد تحلیل ها یا بررسی سوالات جدید را نمیتوان بر روی محتوای تولید شده انجام داد، زیرا در آنجا دیگر نمیتوان سیگنال را از نویز تشخیص داد.
۲. استفاده از هوش مصنوعی مولد را محدود کنید.
شرکتها باید تنها در جایی اجازه استفاده از این فناوری را بدهند که واقعا ارزش افزوده ایجاد میکند. اگر به نامزدهای شغلی اجازه دهید آزادانه رزومه خود را طراحی کنند، انتظار استفاده گسترده از “بهینه سازی هوش مصنوعی” را داشته باشید. اما اگر برای ثبت اطلاعات واقعی، نیاز به پر کردن پرسشنامههای ساختار یافته داشته باشید، این منبع زوال دانش از بین میرود. برای مثال، پرسش درباره سابقه رهبری پروژه ممکن است شامل لیستی از پروژههای انجام شده، نقشهای ایفا شده، بودجههای مدیریت شده، تعداد اعضای تیم و تامینکنندگان مدیریت شده و موارد مشابه باشد. این لیست باید مختص نقش باشد، بنابراین باید از قبل در مورد اینکه چه اطلاعاتی باید جستجو شود، فکر کرد.
در جایی که استفاده از هوش مصنوعی مولد مجاز یا غیرقابل اجتناب است، روشن کنید که پیامدها چیست: آیا برای مثال، ارزیابیهای عملکرد تولیدشده توسط هوش مصنوعی واقعاً به کارمندان کمک میکند تا عملکرد خود را درک کرده و بهبود بخشند؟ بستگی دارد. اگر بررسی تولیدشده توسط هوش مصنوعی، اطلاعات ارائهشده توسط مافوقها، همکاران و مشتریان را که کارمند به راحتی به آنها دسترسی ندارد، ترکیب کند، ارزش افزوده دارد. اگر گزارشی از پیش طراحیشده باشد که بر اساس چند نکته مختصر ارائهشده توسط یک مافوق بیحوصله تولید شده باشد، ارزشی ندارد.
۳. مشخص کنید که چه ارزشی افزوده میشود.
تغییر فرم، سبک و ماهیت محتوا توسط هوش مصنوعی مولد آسان شده است. شرکتها در گذشته کتابخانههای عظیمی از گزارشها و اسلایدهای پاورپوینت همراه ایجاد کردهاند. با هوش مصنوعی مولد، ایجاد نسخههای بیشتر از محتوای مشابه عملا بیهوده است، زیرا حتی دستیارهای هوش مصنوعی تعبیه شده در نرمافزارهای اداری استاندارد (مانند Copilot یا Gemini) تولید هرچه بیشتر آنها را بسیار آسان میکنند. رهبران باید روشن باشند که با استفاده از هوش مصنوعی مولد چه ارزشی و چگونه ارائه شده است. محتوا نیازی به تولید کاملا انسانی ندارد، اما اگر از هوش مصنوعی استفاده میشود، مشخص کنید چرا و چگونه.
برای بسیاری از وظایف، استفاده از مدلهای زبانی بزرگ عمومی اغلب ارزش واقعی کمی اضافه میکند. نثر کلیشهای ایجاد میکند که اغلب حاوی اشتباهات است. اما استفاده از مدلهای اختصاصی ویا بهرهگیری از دادههای اختصاصی ممکن است به خوبی ارزش افزوده داشته باشد. انتظار داریم شاهد شرکتهای بیشتری باشیم که از مدلهای زبانی کوچک اختصاصی یا مدلهای بزرگتر سفارشی شده بر روی دادههای اختصاصی برای تولید بینش استفاده میکنند. و سپس میتوان از ChatGPT یا Claude صرفا برای تغییر سبک و قالب استفاده کرد.
۴. پیامدهای مربوط به کل فرآیند را درک کنید.
بسیاری از شرکتها به کارکنان فردی خود اجازه میدهند که به میل خود از هوش مصنوعی مولد برای بهرهوری شخصی استفاده کنند. اما آنها ارزیابی نمیکنند که استفاده فردی چگونه میتواند بر کل یک فرآیند از نظر بهرهوری و کیفیت خروجی تاثیر بگذارد. اگر فرآیند ماهیت میان سازمانی داشته باشد – مثلاً یک فرآیند چرخه درآمد مراقبتهای بهداشتی شامل ارائه دهندگان و پرداخت کنندگان – همه طرفهای درگیر در فرآیند باید در مورد نحوه استفاده از هوش مصنوعی مولد در درون و فراتر از مرزهای سازمانی توافق کنند.
تعداد فزایندهای از شرکتها احساس میکنند که برای بهرهمندی کامل از هوش مصنوعی، نیاز به بازطراحی فرآیندهای کسبوکار خود دارند، و در حین انجام این کار، باید در نظر بگیرند که چگونه یکپارچگی محتوا را در سراسر فرآیند حفظ کنند. سوال راهنما این نیست که آیا هوش مصنوعی در یک وظیفه مشخص بهتر است، بلکه این است که آیا واگذاری یک وظیفه به هوش مصنوعی، فرآیند را به طور کلی کارآمدتر میکند؟
. . .
رهبران باید در مورد اینکه چه چیزی دانش ارزشمند و مفید را در فرآیندهای کسبوکارشان تشکیل میدهد و چگونه آن را حفظ کنند، تجدید نظر کنند. این یک چالش برای هر کسی است که باید صحت دانش را راستی آزمایی کند، یا نقش انسان را در فعالیتهای خلق دانش اعتبارسنجی کند. هرچه بیشتر از هوش مصنوعی مولد در فرآیندهای کسبوکار خود استفاده کنیم، بیشتر باید اطمینان حاصل کنیم که آنچه را “دانش” مینامیم، واقعا شایسته این عنوان است.
اگر نتوانیم به تکثیر کنترل نشده هوش مصنوعی مولد در فرآیندهای کسبوکار خود رسیدگی کنیم، احتمالا شاهد تکرار “پارادوکس بهرهوری” خواهیم بود که نیم قرن پیش با رشد محاسبات سازمانی مشاهده شد. درس اساسی این است که فناوری جدید تنها در صورتی بهرهوری را بهبود میبخشد که فرآیند پیرامون آن به گونهای تنظیم شده باشد که آن را ممکن سازد.
لینک کوتاه: womenito.com/2n2g
