قابلیت آزمایشی دردسرساز؛ مکالمات کاربران با ChatGPT در گوگل قابل مشاهده بود_ستاره شو

در اتفاقی دلواپس‌کننده، مکالمات خصوصی کاربران ChatGPT که گزینه «قابل کشف‌بودن» لینک مکالمات خود را فعال کرده بودند، توسط موتورهای جستجو همانند گوگل ایندکس می‌شد و برای عموم قابل مشاهده می بود. یقیناً زمان کوتاهی بعد از انتشار کردن گزارش‌ها درمورد این اتفاق، OpenAI این ویژگی را حذف کرد.

بر پایه گزارش تک‌کرانچ، این ماجرا وقتی اغاز شد که کاربران و خبرنگاران کشف کردند با یک جستجوی ساده در گوگل و فیلتر‌کردن نتایج روی دامنه chatgpt.com/share، می‌توان به گنجینه‌ای از مکالمات خصوصی افراد با این چت‌بات دسترسی اشکار کرد. این مکالمات طیف وسیعی از موضوعات را در بر می‌گرفت.

 در یک نمونه، کاربری از ChatGPT برای بازنویسی رزومه خود پشتیبانی خواسته می بود و همه جزئیات شغلی و هویتی او لو رفته می بود. این چنین مکالماتی با محتوای زیاد خصوصی نیز در بین نتایج وجود داشت. برخی از مکالمات هم زیاد شگفت بودند، برای مثال کاربری با پرسیدن سؤالات پوچ و ترول، ChatGPT را وادار کرده می بود تا بلاگی با گفتن «چطور از مایکروویو بدون احضار شیطان منفعت گیری کنیم» تشکیل کند.

انتشار ناخواسته مکالمات کاربران ChatGPT در گوگل

درکل ChatGPT مکالمات شما را به‌صورت پیش‌فکر عمومی نمی‌کرد. این فرایند نیازمند چند مرحله عمل از سوی کاربر می بود: کلیک روی دکمه «اشتراک‌گذاری»، سپس کلیک روی «تشکیل لینک» و در نهایت، فعال‌کردن گزینه‌ای برای «قابل کشف‌بودن» لینک. بااین‌حال، به نظر می‌رسد تعداد بسیاری از کاربران فهمیدن درستی از معنی واقعی «قابل کشف‌بودن» و گمان ایندکس‌شدن مکالماتشان توسط موتورهای جستجوی عمومی نداشته‌اند. این حالت، شباهت بسیاری به ایندکس‌شدن لینک‌های عمومی گوگل درایو دارد که اگر در یک وب‌سایت عمومی به اشتراک گذاشته شوند، در نتایج جستجو ظاهر خواهد شد.

بااین‌حال تنها چند ساعت بعد از خبرساز شدن این ویژگی، شرکت OpenAI به شدت عکس العمل نشان داد و این قابلیت را به‌طور کامل حذف کرد. سخنگوی این شرکت خبرداد: «ما درحال آزمایش راه‌هایی برای آسان‌تر کردن به‌اشتراک‌گذاری مکالمات سودمند بودیم و اخیراً یک آزمایش را برای نمایش چت‌ها در نتایج موتورهای جستجو به آخر رساندیم. این آزمایش، مجالی برای افراد تشکیل کرد تا اتفاقی چیزهایی به اشتراک بگذارند که تصمیم آن را نداشتند.»

این اتفاق بار دیگر نوشته مسئولیت‌پذیری پلتفرم‌ها و حریم خصوصی کاربران را در عصر هوش مصنوعی به بین می‌کشد. گوگل در بیانیه‌ای خبرداد که «ناشران صفحات کنترل کاملی روی ایندکس‌شدن محتوای خود دارند.» درنهایت، این OpenAI می بود که با پذیرفتن مسئولیت و حذف این ویژگی، به این بحران حریم خصوصی آخر داد.