آیا تا به حال به پیام هشداری که در پلتفرم‌های پیشرفته هوش مصنوعی قرار دارد دقت کرده‌اید؟ همان جمله به ظاهر ساده اما سنگینی که می‌گوید «هوش مصنوعی ممکن است اشتباه کند؛ حتماً اطلاعات و خروجی‌ها را بررسی کنید».
آیا تا به حال از خود پرسیده‌اید چطور دانشی مانند ارتباطات، مدیریت رسانه و برند که تمام شالوده و دارایی‌اش بر اعتمادسازی، اعتبار و حقیقت استوار شده، حیات و شهرت خود را به ابزاری گره زده که سازندگانش پیش‌فرض خطادار بودن آن را صریحاً پذیرفته‌اند؟ چطور سیستم‌هایی که با وعده صرفه‌جویی ۹۰ درصدی در زمان و جهش بی‌سابقه‌ی سرعت، وارد سازمان‌ها شدند اکنون در بزنگاه‌های حساس ناگهان به آفتی خاموش تبدیل می‌شوند که اعتبار چندساله یک برند را ظرف چند دقیقه می‌سوزانند؟ این همان تضاد عمیقی است که اگر مدیران ارشد امروز برای آن چاره‌ای نیاندیشند، فردا در افکار عمومی تاوان جبران‌ناپذیری برای آن خواهند داد.
داستان از جایی آغاز می‌شود که سازمان‌ها در رویای بازدهی و اتوماسیون، چشم خود را بر ماهیت واقعی الگوریتم‌ها می‌بندند. سیستم‌های هوشمند همواره دارای ریسک‌هایی چون هشدارهای نادرست، سوگیری های نادرست، توهمات الگوریتمی، انتشار اخبار جعلی و نقض حریم خصوصی هستند.
برای فهم اینکه این فریب ساختاری چگونه برندها را تا مرز نابودی می‌برد، نیازی به حدس و گمان نیست؛ کافی است نگاهی به دفترچه رسوایی‌های اخیر در دنیای واقعی بیندازیم. نخستین روایت، داستان مسافری داغ‌دیده و چت‌بات سرکش شرکت هواپیمایی «ایر کانادا» است. زمانی که این مسافر برای شرکت در مراسم تشییع پیکر مادربزرگش قصد خرید بلیت داشت، چت‌بات هوش مصنوعی وب‌سایت با لحنی قاطع به او اطمینان داد که می‌تواند بلیت را به قیمت معمولی بخرد و ظرف ۹۰ روز مابه‌التفاوت تخفیف ویژه «سفر به دلیل فوت نزدیکان» را پس بگیرد؛ روایتی که توهم محض الگوریتم بود و چنین قانونی اصلاً در شرکت وجود نداشت. اما فاجعه اصلی زمانی رخ داد که مسافر خواستار حق خود شد و ایر کانادا در دادگاه، ادعای شگفت‌انگیز و خنده‌داری مطرح کرد «چت‌بات یک موجودیت و شخصیت حقوقی مستقل است و شرکت مسئولیتی در قبال دروغ‌ها و خروجی‌های آن ندارد!». دادگاه کانادا این شانه خالی کردن را صریحاً رد و شرکت را محکوم کرد، اما ضربه اصلی به شهرت ایر کانادا وارد شد؛ برندی که در رسانه‌های بزرگ جهان به نماد فاجعه ارتباطی، فرار مضحک از مسئولیت و غیبت کامل نظارت انسانی تبدیل گردید. شهرت 80 ساله‌ای که با یک سادهانگاری انگشت نمای افکار عمومی شد.
اما ریشه این سوءتفاهم مرگبار در کجاست؟ گزارش‌های رسمی سازمان همکاری و توسعه اقتصادی (OECD) بر یک تفکیک حیاتی دست می‌گذارند: تمایز میان «قابلیت توضیح» و «قابلیت تفسیر». مهندسان هوش مصنوعی می‌توانند با نمودارها و فرمول‌های ریاضی توصیف کنند که الگوریتم از نظر فنی چگونه داده‌ها را پردازش کرده است (توضیح‌پذیری)؛ اما این به هیچ وجه بدان معنا نیست که یک مدیر یا انسان تصمیم‌گیر در بافت واقعی بحران می‌تواند علت منطقی، بافت فرهنگی و پیامدهای اجتماعی آن خروجی را درک کند (تفسیر‌پذیری). وقتی این دو مفهوم اشتباه گرفته شوند، سازمان خود را درون یک جعبه تاریک رها می‌کند؛ جعبه‌ای که هر لحظه امکان محو آن در گرداب خود ساخته‌اش را ممکن می‌کند.
روی تاریک دیگری از هوش مصنوعی در ژانویه ۲۰۲۳ در روزنامه‌نگاری و رسانه نیز قربانی گرفت. وب‌سایت معتبر فناوری CNET به طور پنهانی نگارش مقالات تحلیلی و راهنماهای مالی خود را به هوش مصنوعی سپرد تا در هزینه‌ها به شدت صرفه‌جویی کند. اما افشاگری رسانه‌ها نقاب از چهره این ماشین برداشت؛ مشخص شد بیش از نیمی از مقالات تولیدشده حاوی خطاهای فاحش ریاضی در محاسبات وام و سود بانکی بوده‌اند و بدتر از آن، هوش مصنوعی بخش‌های زیادی از متون را عینا از رسانه‌های دیگر سرقت ادبی کرده است. رسانه‌ای که چند دهه مرجعیت علمی و اعتماد مخاطبان را یدک می‌کشید، ناگهان با سیل بی‌اعتمادی، بیانیه‌های عذرخواهی و رسوایی حرفه‌ای روبرو شد و ناچار گردید تمامی پروژه‌های هوش مصنوعی خود را متوقف کند اما در این بین یک چیز دچار ریزش شد و آن اعتمادیست که سال‌ها برای جلبش ممارست‌ها کشیده شده.
در نقطه ای دیگر از آمریکا این طغیان الگوریتمی به پیاده‌روها و مشتریان عصبانی غول فست‌فود جهان رسید. مک‌دونالد با هدف افزایش سرعت سفارش‌گیری، سیستم صوتی هوش مصنوعی را در شعبه‌های خودرویی خود تست کرد. اما نتیجه، موجی از کمدی و خشم در شبکه‌های اجتماعی بود؛ از افزوده شدن ۲۵۰ دلار ناگت مرغ به فاکتور یک مشتری ساده تا ثبت سفارش بستنی با طعم کلم و بیکن! ویدیوهای خنده‌دار و تحقیرآمیز مشتریان در شبکه‌های اجتماعی میلیون‌ها بار دیده شد و برند مک‌دونالد را به ریشخند مجازی تبدیل کرد، تا جایی که مدیران شرکت در سال ۲۰۲۴ تسلیم شده و رسماً اعلام کردند پروژه هوش مصنوعی را کلاً لغو و از تمام شعبه‌ها جمع‌آوری کرده‌اند.
این سه روایت واقعی ثابت می‌کنند که زوال برند نه یک کابوس فرضی، بلکه حاصل یک سادهانگاری مدیریتی است. هنگامی که سازمان‌ها «کارایی و سرعت» را با «حکمت و اصالت» اشتباه می‌گیرند و محتواها و پاسخ‌های بی‌کیفیتِ ماشین‌نوشت را بدون ممیزی وارد اکوسیستم خود می‌کنند، نه تنها مخاطبان را دچار خستگی می‌کنند، بلکه بر اساس شاخص‌های جدید بهینه‌سازی برای موتورهای پاسخگو (GEO/AEO)، رتبه و اعتبار خود را در حافظه بلندمدت الگوریتم‌ها نیز از دست می‌دهند. راهکار عبور از این دالان تاریک، توقف تکنولوژی نیست؛ بلکه پیوند دادن هوش مصنوعی با علوم مدیریت ریسک است. سازمان‌ها باید بر اساس استانداردهای OECD (سازمان بین‌المللی همکاری و توسعه اقتصادی) و یونسکو، سازوکارهای راستی‌آزمایی چندمنبعی (MSV) و ارتباطات متناسب با میزان قطعیت (GCC) را پیاده‌سازی کنند، حریم خصوصی داده‌ها را با تکنیک‌های پیشرفته (PPML) تضمین نمایند و با ممیزی مستمر از سوگیری‌های الگوریتمی جلوگیری کنند.
اما مهم‌ترین درس این داستان در یک اصل بنیادین نهفته است که در تمامی اسناد اخلاقی بین‌المللی بر آن تاکید شده است: «الزام مداخله و نظارت نهایی انسان».
تا به امروز هوش مصنوعی صریحاً نباید و نمی‌تواند تصمیم‌گیرنده نهایی باشد. هیچ الگوریتمی، هرچقدر هم که با ترابایت‌ها داده آموزش دیده باشد، از هوش عاطفی، قضاوت اخلاقی، درک بافت اجتماعی و «وجدان» برخوردار نیست. بکارگیری هوش مصنوعی به تنهایی و بدون چارچوب‌های ارزیابی ریسک، بازی با آتش در انبار باروت شهرت است. الگوریتم‌ها می‌توانند خادم‌های فوق‌العاده‌ای برای پردازش داده‌ها و اتوماسیون باشند، اما فرمان ارابه استراتژی و مسئولیت اخلاقی خروجی‌ها همیشه و بدون استثنا بر دوش انسان است. در نهایت، تغییر نقش انسان در روابط عمومی و مدیریت برند، حرکت از یک «تولیدکننده محض» به سمت «تصمیم‌گیر، ناظر عاقل، معناپرداز و وجدان اخلاقی سازمان» است؛ انسانی که اجازه نمی‌دهد تاریکی جعبه سیاه، روشنیِ اعتبار و اعتماد برند را ببلعد.
تمام ادعاها، چارچوب‌های نظری، آمارهای استنادشده و پرونده‌های مطالعه موردی مطرح‌شده در این سند، بر پایه منابع پژوهشی و اسناد رسمی مستند شده‌اند
نویسنده: محمد ساریخانی l کارشناس روابط عمومی هلدینگ پترفرهنگ