پنج ماه پس از اینکه ChatGPT یک جنون سرمایه گذاری بر سر هوش مصنوعی را به راه انداخت، پکن در حال حرکت برای مهار چت ربات های چین است که نشان از عزم دولت برای حفظ کنترل نظارتی دقیق بر فناوری است که می تواند یک دوره را تعریف کند.
اداره فضای سایبری چین در این ماه پیش‌نویس قوانینی را برای به اصطلاح هوش مصنوعی مولد – سیستم‌های نرم‌افزاری مانند سیستم ChatGPT که می‌تواند متن و عکس را در پاسخ به سؤالات و درخواست‌های کاربر فرموله کند، رونمایی کرد.
طبق این مقررات، شرکت‌ها باید به قوانین سخت‌گیرانه سانسور حزب کمونیست چین توجه کنند، همانطور که وب‌سایت‌ها و اپلیکیشن‌ها باید از انتشار مطالبی که رهبران چین را تحقیر می‌کنند یا تاریخ ممنوعه را تکرار می‌کنند، خودداری کنند. محتوای سیستم‌های هوش مصنوعی باید «ارزش‌های اصلی سوسیالیستی» را منعکس کند و از اطلاعاتی که «قدرت دولتی» یا وحدت ملی را تضعیف می‌کند، اجتناب کند.
شرکت‌ها همچنین باید مطمئن شوند که چت‌بات‌های آنها کلمات و تصاویری درست می‌کنند و به مالکیت معنوی احترام می‌گذارند، و باید الگوریتم‌های خود، مغز نرم‌افزاری که در پشت ربات‌های گفتگوی وجود دارد، را با تنظیم‌کننده‌ها ثبت کنند.
قوانین نهایی نیستند و ممکن است تنظیم‌کننده‌ها به اصلاح آنها ادامه دهند، اما کارشناسان می‌گویند مهندسانی که سرویس‌های هوش مصنوعی در چین می‌سازند، قبلاً در حال کشف نحوه گنجاندن این احکام در محصولات خود بودند.
در سرتاسر جهان، دولت‌ها با قدرت چت‌بات‌ها با نتایج ایجاد شده توسط هوش مصنوعی از هشداردهنده تا خوش‌خیم شگفت‌زده شده‌اند. از هوش مصنوعی برای امتحانات کالج و ایجاد عکس جعلی از پاپ فرانسیس در کت پفی استفاده شده است.
ChatGPT که توسط شرکت ایالات متحده OpenAI توسعه یافته است، که با حمایت حدود 13 میلیارد دلاری مایکروسافت، سیلیکون ولی را تشویق کرده است تا فناوری زیربنایی را در زمینه های جدیدی مانند بازی های ویدیویی و تبلیغات به کار گیرد. شرکت سرمایه گذاری خطرپذیر Sequoia Capital تخمین می زند که مشاغل هوش مصنوعی در نهایت می توانند “تریلیون ها دلار” در ارزش اقتصادی تولید کنند.
در چین، سرمایه گذاران و کارآفرینان در حال رقابت برای رسیدن به عقب هستند. سهام شرکت های هوش مصنوعی چینی افزایش یافت. برخی از بزرگ‌ترین شرکت‌های فناوری چین، از جمله اخیراً غول تجارت الکترونیک علی‌بابا، اعلامیه‌های بدی را ارائه کرده‌اند. SenseTime که نرم افزار تشخیص چهره را می سازد. و موتور جستجوی Baidu. حداقل دو استارت آپ که جایگزین های چینی را برای فناوری OpenAI توسعه می دهند میلیون ها دلار درآمد کسب کرده اند.
ChatGPT در چین در دسترس نیست. اما در مواجهه با تعداد فزاینده ای از جایگزین های داخلی، چین به سرعت خطوط قرمز خود را برای هوش مصنوعی رونمایی کرد، پیش از سایر کشورهایی که هنوز در حال بررسی نحوه تنظیم چت بات ها هستند.
کندرا شفر، رئیس سیاست فناوری در Trivium China، یک شرکت مشاوره مستقر در پکن، گفت: این قوانین رویکرد چین به “سریع حرکت و شکستن چیزها” را به مقررات نشان می دهد.
او افزود: «از آنجایی که شما یک سیستم دو حزبی ندارید که هر دو طرف در آن بحث کنند، آنها فقط می‌توانند بگویند، خوب، ما می‌دانیم که باید این کار را انجام دهیم و بعداً آن را اصلاح خواهیم کرد».
چت‌بات‌ها در بخش‌های بزرگی از اینترنت آموزش داده می‌شوند و توسعه‌دهندگان با نادرستی و شگفتی‌هایی که گاهی اوقات به آنها تف می‌دهند دست و پنجه نرم می‌کنند. در ظاهر، قوانین چین مستلزم سطحی از کنترل فنی بر چت بات ها است که شرکت های فناوری چینی به آن دست نیافته اند. حتی شرکت هایی مانند مایکروسافت هنوز در حال تنظیم دقیق چت بات های خود هستند تا پاسخ های مضر را از بین ببرند. چین نوار بسیار بالاتری دارد، به همین دلیل است که برخی از چت‌بات‌ها قبلاً بسته شده‌اند و برخی دیگر فقط برای تعداد محدودی از کاربران در دسترس هستند.
کارشناسان در مورد دشواری آموزش سیستم های هوش مصنوعی به گونه ای که به طور مداوم واقعی باشند، اختلاف نظر دارند. برخی تردید دارند که شرکت‌ها بتوانند طیف قوانین سانسور چین را که اغلب فراگیر هستند، مدام در حال تغییر هستند و حتی نیازمند سانسور کلمات و تاریخ‌های خاص مانند 4 ژوئن 1989، روز قتل عام میدان تیان‌آن‌من هستند، توضیح دهند. برخی دیگر بر این باورند که با گذشت زمان و با کار کافی، می‌توان ماشین‌ها را با حقیقت و نظام‌های ارزشی خاص، حتی سیاسی، همسو کرد.
تحلیلگران انتظار دارند که این قوانین پس از مشورت با شرکت های فناوری چین تغییر کند. تنظیم‌کننده‌ها می‌توانند اجرای خود را نرم‌تر کنند تا قوانین به طور کامل توسعه فناوری را تضعیف نکنند.
چین سابقه طولانی در سانسور اینترنت دارد. در طول دهه 2000، این کشور قدرتمندترین شبکه اطلاعاتی جهان را از طریق وب ساخته است. این امر باعث ترس شرکت های غربی ناسازگار مانند گوگل و فیس بوک شد. میلیون ها کارگر را برای نظارت بر فعالیت های اینترنتی استخدام کرد.
در تمام این مدت، شرکت‌های فناوری چین که باید قوانین را رعایت می‌کردند، شکوفا شدند و منتقدان غربی را که پیش‌بینی می‌کردند کنترل سیاسی رشد و نوآوری را تضعیف می‌کند، به چالش کشیدند. با ظهور فناوری هایی مانند تشخیص چهره و تلفن های همراه، شرکت ها به دولت کمک کردند تا آنها را برای ایجاد یک وضعیت نظارتی مهار کند.
مت شیهان، کارشناس هوش مصنوعی چین و عضو بنیاد کارنگی برای صلح بین‌المللی، گفت: موج فعلی هوش مصنوعی خطرات جدیدی را برای حزب کمونیست به همراه دارد.
آقای شیهان گفت که غیرقابل پیش‌بینی بودن چت‌بات‌ها، که اظهاراتی بی‌معنی یا نادرست می‌کنند – چیزی که محققان هوش مصنوعی آن را توهم می‌نامند – در تضاد با وسواس طرفین برای مدیریت مطالبی که آنلاین گفته می‌شود، است.
وی افزود: هوش مصنوعی مولد دو هدف اصلی حزب یعنی کنترل اطلاعات و رهبری در هوش مصنوعی را در تنش قرار داد.
به گفته کارشناسان، مقررات جدید چین به طور کامل مربوط به سیاست نیست. به عنوان مثال، هدف آنها محافظت از حریم خصوصی و مالکیت معنوی افراد و سازندگان داده هایی است که مدل های هوش مصنوعی بر اساس آن ها آموزش می بینند، موضوعی که در سراسر جهان نگران کننده است.
در ماه فوریه، Getty Images، شرکت پایگاه داده تصویر، از استارت‌آپ هوش مصنوعی Stable Diffusion به دلیل آموزش سیستم تولید تصویر خود بر روی 12 میلیون عکس واترمارک شده شکایت کرد، که گتی ادعا کرد که ارزش تصاویر آن را کاهش داده است.
چین تلاش گسترده‌تری برای پاسخگویی به سؤالات حقوقی در مورد استفاده شرکت‌های هوش مصنوعی از داده‌ها و محتوای اساسی انجام می‌دهد. در ماه مارس، به عنوان بخشی از یک بازنگری اساسی سازمانی، پکن دفتر ملی داده را تأسیس کرد، تلاشی برای تعریف بهتر معنای مالکیت، خرید و فروش داده ها. این نهاد دولتی همچنین به شرکت ها در ساخت مجموعه داده های لازم برای آموزش چنین مدل هایی کمک خواهد کرد.
خانم شفر که به طور گسترده در مورد مقررات هوش مصنوعی چین نوشته است و این ابتکار را “متحول کننده” خواند، گفت: “آنها اکنون در حال تصمیم گیری هستند که نوع داده های دارایی چیست و چه کسی حق استفاده از آن و کنترل آن را دارد.”
با این حال، نرده‌های محافظ جدید چین ممکن است زمان‌بندی مناسبی نداشته باشند. این کشور با تشدید رقابت و تحریم‌ها بر روی نیمه‌رساناها مواجه است که رقابت‌پذیری آن در فناوری، از جمله هوش مصنوعی را تهدید می‌کند.
امیدها برای هوش مصنوعی چینی در اوایل فوریه بالا رفت، زمانی که Xu Liang، مهندس و کارآفرین هوش مصنوعی، یکی از اولین پاسخ های چین به ChatGPT را به عنوان یک برنامه تلفن همراه منتشر کرد. آقای ژو گفت که اپلیکیشن ChatYuan در یک ساعت اول بیش از 10000 بار دانلود شد.
گزارش‌های رسانه‌ای از تفاوت‌های آشکار بین خط حزب و پاسخ‌های ChatYuan به زودی منتشر شد. پاسخ‌ها تشخیص بدی از اقتصاد چین ارائه کرد و جنگ روسیه در اوکراین را «جنگ تجاوزکارانه» توصیف کرد که در تضاد با موضع بیشتر طرفدار روسیه بود. چند روز بعد، مقامات این برنامه را خاموش کردند.
آقای شو گفت که اقداماتی را برای ایجاد یک ربات «وطن پرستانه» اضافه می کند. آنها شامل فیلتر کردن کلمات کلیدی حساس و استخدام بازبین های دستی بیشتری هستند که می توانند به او کمک کنند تا پاسخ های مشکل دار را پرچم گذاری کند. او حتی در حال آموزش یک مدل جداگانه است که می تواند “نقطه دیدگاه های نادرست” را تشخیص دهد، که او آن را فیلتر می کند.
هنوز مشخص نیست که ربات آقای خو چه زمانی مقامات را راضی خواهد کرد. طبق اسکرین شات ها، ابتدا قرار بود این اپلیکیشن در 13 فوریه از سر گرفته شود، اما تا روز جمعه همچنان خاموش بود.
در این مطلب آمده است: «پس از تکمیل عیب‌یابی، سرویس از سر گرفته می‌شود.
