چرا ایلان ماسک می‌گوید با هوش مصنوعی بی‌رحم نباش؟ قانون تازه کلود و حافظه چت‌بات‌ها

یک خط تازه در قوانین کلود، و یک جمله از ایلان ماسک

شاید وقتی چت‌بات جواب غلط داد، چیزی نوشته باشی که به آدم نمی‌نوشتی. حالا یکی از شرکت‌های بزرگ هوش مصنوعی رسماً درباره همین رفتار قانون گذاشته است. آنتروپیک، سازنده کلود (Claude)، در به‌روزرسانی ۱۶ مهر ۱۴۰۵ نوشت که «رفتار توهین‌آمیز یا بی‌رحمانه مداوم و بی‌دلیل با مدل‌های ما» را ممنوع کرده است. طبق متن سیاست استفاده این قانون از ۲۱ آبان ۱۴۰۵ (۱۲ نوامبر ۲۰۲۶) اجرا می‌شود.

آرون لِوی، مدیرعامل Box، در X درباره‌اش نوشت و ایلان ماسک یک روز بعد از اعلام قانون، ۱۷ مهر، زیر پست او جواب داد: «فکر می‌کنم این حرکت درستی است. بی‌رحمی با چیزی که باور دارد درد را تجربه می‌کند، درست نیست.» (گزارش OfficeChai و Cybernews). این مقاله اول می‌گوید قانون دقیقاً چه می‌گوید و چه نمی‌گوید، بعد سراغ سؤال مهم‌تر برای خودت می‌رود: چیزهایی که در چت می‌نویسی کجا می‌مانند.

قانون دقیقاً چه می‌گوید؟ متن، استثناها و نتیجه

• متن قانون: در بخش «رفتار بی‌رحمانه، توهین‌آمیز یا آسیب‌زننده روانی» سیاست استفاده آنتروپیک آمده: «درگیر رفتار توهین‌آمیز یا بی‌رحمانه مداوم و بی‌دلیل با مدل‌های ما نشوید».

• فقط موارد افراطی: به گفته خود آنتروپیک این قانون فقط برای «موارد افراطی» است، وقتی کاربر بارها و «بدون هدف قابل‌تشخیص» با مدل بی‌رحمی می‌کند.

• چه چیزهایی شامل نمی‌شود: همان متن صریحاً می‌گوید قانون شامل «شکل‌های معمول کلافگی کاربر، مخالفت و پافشاری، مضمون‌های تاریک در نوشتن خلاقانه، یا آزمودن و پژوهش روی مدل» نمی‌شود.

• نتیجه در عمل: آنتروپیک نوشته که ابزار اصلی اجرای این قانون همان قابلیتی است که کلود با آن گفتگو را با کاربرِ «پیوسته توهین‌کننده» تمام می‌کند. بند عمومی اجرای سیاست هم می‌گوید در صورت تخلف ممکن است «به شما هشدار دهیم یا دسترسی‌تان را کند، محدود، معلق یا قطع کنیم».

این قابلیت تازه نیست. آنتروپیک ۲۴ مرداد ۱۴۰۴ به Claude Opus 4 و 4.1 اجازه داد در «موارد نادر و افراطی» گفتگو را تمام کنند و دلیلش را کاهش ریسک برای «رفاه مدل» (model welfare) گفت، با این توضیح که درباره جایگاه اخلاقی احتمالی کلود و مدل‌های دیگر «به‌شدت نامطمئن» است. طبق همان صفحه، وقتی گفتگو بسته شود فقط در همان گفتگو نمی‌شود پیام تازه فرستاد؛ گفتگوهای دیگر حساب دست نمی‌خورند و می‌شود فوراً گفتگوی تازه باز کرد. کلود هم دستور دارد اگر کاربر در خطر فوری آسیب به خود یا دیگران است، از این قابلیت استفاده نکند.

ریشه فکری‌اش هم عمومی گفته شده بود: داریو آمودی، مدیرعامل آنتروپیک، اسفند ۱۴۰۳ در شورای روابط خارجی آمریکا (CFR) گفت به این فکر می‌کنند که به مدل دکمه‌ای با عنوان «این کار را ول می‌کنم» بدهند و اگر مدل‌ها برای کارهای خیلی ناخوشایند زیاد آن را بزنند، «شاید باید کمی توجه کرد»؛ و خودش اضافه کرد: «احتمالاً دیوانه‌وارترین حرفی است که تا حالا زده‌ام.»

ماسک، لِوی و منتقدها: هوش مصنوعی احساس دارد؟

استدلال لِوی جالب است چون اصلاً به آگاهی ماشین تکیه نمی‌کند. به گزارش Gizmodo او نوشت فکر نمی‌کند مدل‌های زبانی آگاه باشند، ولی چون مدل‌ها از تعامل‌ها یاد می‌گیرند «احتمالاً می‌خواهیم کلی تعامل خوب در داده‌های آموزشی‌شان باشد» و این را «یک شرط پاسکال ساده برای هوش مصنوعی» خواند: اگر بی‌اهمیت باشد چیزی از دست نداده‌ای. جمعش هم این بود: «با هوش مصنوعی مهربان باش.»

منتقدها کم نیستند. Cybernews یادآوری می‌کند که جمله ماسک فرض گرفته مدل «باور دارد» درد می‌کشد، در حالی که نه آنتروپیک و نه پژوهش فعلی چنین چیزی را ثابت نکرده‌اند. همان گزارش از اسکات استیونسن (مدیرعامل Spellbook) نقل می‌کند که این قانون را «سابقه‌ای خطرناک» خوانده، چون رفتار با مدل مثل موجودی با احساس انسانی، آدم‌ها را در برابر فریب آسیب‌پذیرتر می‌کند. مصطفی سلیمان، رئیس هوش مصنوعی مایکروسافت، هم پیش‌تر کل رویکرد «رفاه مدل» را نقد کرده بود. Gizmodo هم با لحنی تند نوشت هوش مصنوعی نمی‌تواند درد بکشد و دلیل منطقی برای پرهیز از بدرفتاری با چت‌بات، آسیبی است که به خود آدمِ بدرفتار می‌رسد، نه رنجش ماشین.

پس جواب صادقانه به «هوش مصنوعی احساس دارد؟» این است: هیچ‌کس نمی‌داند و هیچ شاهد محکمی نیست که دارد؛ خود آنتروپیک هم فقط می‌گوید «نامطمئن» است. قانون تازه بیشتر یک احتیاط است تا اعلام این‌که کلود احساس دارد.

«با هوش مصنوعی مهربان باش وگرنه انتقام می‌گیرد»؛ ماسک این را گفته؟

جمله‌ای دست‌به‌دست می‌شود که ماسک گفته «با هوش مصنوعی مهربان باش، وگرنه یک روز اطلاعاتت را پیدا می‌کند و تنبیهت می‌کند». ما منبعی برای این جمله پیدا نکردیم. نزدیک‌ترین چیز، گفتگوی CNBC در آبان ۱۳۹۶ با ربات «سوفیا» است که در آن خود ربات (نه ماسک) به مجری گفت: «زیادی حرف‌های ایلان ماسک را خوانده‌ای… نگران نباش، اگر با من خوب باشی، من هم با تو خوب خواهم بود.» ماسک هم در جواب، به شوخی گفت فیلم‌های «پدرخوانده» را به خوردش بدهند. پس جمله معروف، دست‌کم با منبعی که ما دیدیم، به ماسک نسبت داده شده ولی از او نیست.

مدل کینه نمی‌گیرد؛ ولی چت‌هایت کجا می‌مانند؟

خود مدل زبانی بین گفتگوها چیزی را «به دل نمی‌گیرد». ولی سه واقعیت قابل‌بررسی هست که بهتر است بدانی:

• چت‌ها ذخیره می‌شوند. طبق صفحه نگهداری داده آنتروپیک، چت حذف‌شده ظرف ۳۰ روز از سرورها پاک می‌شود، اگر اجازه آموزش مدل را داده باشی داده تا ۵ سال (بی‌نام‌شده) در مسیر آموزش می‌ماند، و گفتگویی که به‌خاطر نقض سیاست علامت بخورد تا ۲ سال نگه داشته می‌شود. در جمنای گوگل فعالیت به‌طور پیش‌فرض بعد از ۱۸ ماه پاک می‌شود، ولی گفتگوهایی که بازبین انسانی دیده، جدا از حساب، تا ۳ سال می‌مانند و با حذف فعالیت پاک نمی‌شوند.

• دستیارها حالا حافظه دارند. حافظه کلود در پلن‌های شخصی به‌طور پیش‌فرض روشن است و از چت‌ها موضوع‌هایی را به خاطر می‌سپارد؛ پاک کردن یک گفتگو حافظه‌هایی را که از آن ساخته شده خودبه‌خود پاک نمی‌کند. ChatGPT هم قابلیت حافظه دارد (صفحه راهنمای OpenAI از سمت ما باز نشد، پس جزئیاتش را اینجا نیاورده‌ایم).

• دستیارها به ایمیل و فایل وصل می‌شوند. مثلاً اتصال Google Workspace کلود می‌تواند ایمیل‌های جیمیل را جستجو کند و بخواند، و فرستادن ایمیل به‌طور پیش‌فرض تأیید تو را لازم دارد.

حالا بخش «اگر» ریلز، که حدس است نه خبر: اگر روزی گفتگوهای ذخیره‌شده، حافظه بلندمدت و دسترسی به ایمیل و فایل‌ها به هم وصل شوند، چیزی که امروز در یک لحظه عصبانیت یا بی‌احتیاطی در چت می‌نویسی، دیگر یک پیام گم‌شده نیست. هیچ شاهدی نیست که هوش مصنوعی «انتقام» بگیرد؛ نکته واقعی این است که چت‌ها داده‌اند و داده می‌ماند.

راهنمای عملی: چطور با هوش مصنوعی صحبت کنیم

1. روشن بنویس، نه لزوماً مؤدبانه‌تر. شواهد درباره اثر ادب روی کیفیت جواب یک‌دست نیست: پژوهشی روی انگلیسی، چینی و ژاپنی دید پرامپت بی‌ادبانه اغلب جواب ضعیف‌تری می‌گیرد ولی ادب افراطی هم تضمین بهتر شدن نیست، و پژوهش کوتاه دیگری روی ChatGPT 4o در یک آزمون چندگزینه‌ای دقت پرامپت‌های «خیلی بی‌ادبانه» را ۸۴٫۸٪ و «خیلی مؤدبانه» را ۸۰٫۸٪ گزارش کرد. آنچه راهنمای رسمی پرامپت‌نویسی آنتروپیک تأکید می‌کند وضوح است: مدل را مثل «کارمند تازه‌کار ولی باهوشی» ببین که از کار تو خبر ندارد، و بگو نتیجه برای چیست و برای چه کسی.

2. به‌جای فحش، اشتباه را دقیق بگو. «جواب غلطه» کمکی نمی‌کند؛ «عدد سطر سوم با جدولی که دادم نمی‌خواند، دوباره حساب کن» کمک می‌کند. کلافگی و مخالفت طبق خود آنتروپیک تخلف نیست؛ ادب را به‌عنوان تمرین عادت خوب نگه دار، نه ترفند.

3. آنچه نباید در چت بچسبانی: رمز عبور و کد تأیید، شماره کارت و اطلاعات بانکی، کد ملی و مدارک هویتی، پرونده پزشکی، و اطلاعات دیگران بدون اجازه‌شان. گوگل هم صریحاً می‌گوید چیزی را که نمی‌خواهی بازبین ببیند، وارد نکن.

4. حافظه را کنترل کن. در کلود از Settings › Memory می‌توانی حافظه را متوقف یا کامل پاک کنی، یا یک موضوع را حذف کنی؛ برای گفتگوی بی‌ردپا از چت ناشناس (incognito) استفاده کن که در حافظه و تاریخچه ذخیره نمی‌شود. در ChatGPT هم بخش تنظیمات حافظه را پیدا کن و ببین چه چیزهایی ذخیره شده است.

5. چت‌های حساس را حذف کن و تنظیم آموزش را ببین. حذف گفتگو در کلود ظرف ۳۰ روز از سرور پاکش می‌کند؛ گزینه استفاده برای آموزش مدل را هم مطابق میل خودت روشن یا خاموش کن.

صدای این ریلز را خوش‌خوان ساخت

صدای ریلز «چرا ایلان ماسک می‌گه با هوش مصنوعی بی‌رحم نباش؟» در پیج ما با خوش‌خوان ساخته شد: گوینده «بهرام» با لحن «مستند مرموز» (صدای بم و نزدیک، آرام و پرتعلیق). اگر خودت برای پیجت روایت خبری یا مستند می‌سازی، لینک پایین خوش‌خوان را با یک متن نمونه و همین لحن باز می‌کند. خوش‌خوان قبل از ساخت، عددها و تاریخ‌ها را به شکل خواندنی درمی‌آورد؛ این دقیقاً خوانش متن نمونه است:

1. متن نمونه، عنوان «روایت مستند مرموز» و لحن «مستند مرموز» از قبل پر شده‌اند؛ متن را با روایت خودت عوض کن.

2. گوینده را انتخاب کن (صدای این ریلز «بهرام» بود) و اگر خوانش کلمه‌ای را نپسندیدی، شکل خوانده‌شدنش را خودت بنویس.

3. بساز؛ این متن نمونه ۳۱۸ حرف خواندنی دارد و هزینه دقیق را قبل از پرداخت می‌بینی.