هوش مصنوعی در حال نابودی اینترنت است؛ ریاضیات تنها امید ماست!

تا همین چند وقت پیش، محتوای تولیدشده توسط هوش مصنوعی چیزی در حد یک شعبده‌بازی و سرگرمی ساده بود؛ پاهایی با شش انگشت یا بدل‌های عجیب و غریب از تام کروز که بیشتر خنده‌دار بودند تا نگران‌کننده! اما آن دوران دیگر به پایان رسیده است. پیشرفت‌های اخیر این موضوع را ثابت کرد.

اینترنتی که زمانی می‌شناختیم دیگر وجود ندارد. جایی که پیش از این «دیدن» مبنای باور کردن بود، اکنون مایه شک و تردید است. ما در میان بحران اعتماد زندگی می‌کنیم؛ بحرانی که بسیار فراتر از چیزهایی است که با چشمان خود می‌بینیم.

ابزارهای تشخیص فاقد کارایی هستند!

واکنش غریزی و اولیه جامعه، ساخت ابزارهای تشخیص (Detectors) بهتر است؛ یعنی آموزش هوش مصنوعی برای مچ‌گیری از هوش مصنوعی! اما این روش کارساز نیست. هر کسی می‌تواند با اضافه کردن یک تاری (Blur) یا دگرگونی (Distortion) ساده، پیشرفته‌ترین ابزارهای تشخیص تصویر جهان را دور بزند و دقت آن‌ها را تا حد ۴٪ کاهش دهد. شکست ابزارهای تشخیص به همان دلیل ساختاری رخ می‌دهد که نرم‌افزارهای آنتی‌ویروس هرگز نتوانستند بدافزارها را ریشه‌کن کنند: مهاجم همیشه از یک «مزیت نامتقارن» (asymmetric advantage) برخوردار است.

اما شکست ابزارهای تشخیص، فرعی‌ترین بخش ماجراست؛ چرا که صورت‌مسئله اکنون بسیار بزرگ‌تر از این حرف‌هاست.

هوش مصنوعی دیگر صرفاً محتوا تولید نمی‌کند، بلکه دست به «عمل» می‌زند. ایجنت‌های خودمختار (Autonomous agents) در حال گشت‌وگذار در وب، خرید کردن، انتشار محتوا، مذاکره با دیگر ایجنت‌ها و تعامل با انسان‌ها (و در برخی موارد با کودکان) هستند؛ انسان‌هایی که شاید اصلاً روحشان هم خبر نداشته باشد که در حال گفتگو با یک ماشین هستند. وقتی این ایجنت‌ها در مقیاس کلان عمل کنند، الگوهای خرابی آن‌ها فاجعه‌بار خواهد بود.

یک ایجنت هوشمند که با داده‌های به‌طور ظریف مسموم‌شده (poisoned data) آموزش دیده است، اشتباهات کوچک اما به‌ظاهر منطقی در صورت‌حساب‌های پزشکی ایجاد می‌کند که تجمع آن‌ها در شبکه یک بیمارستان، به میلیون‌ها دلار هزینه‌تراشی شیادانه منجر می‌شود. ناوگانی از ایجنت‌های تجاری که برای کسب سود بیشتر بهینه‌سازی شده‌اند، به‌طور سیستماتیک از آسیب‌پذیری‌های قیمت‌گذاری سوءاستفاده می‌کنند؛ نوساناتی که سازندگان آن‌ها هرگز قصد ایجادش را نداشتند و نمی‌توانند آن را توجیه کنند و در نهایت به میلیاردها دلار خسارت ختم می‌شود.

بال زدن یک پروانه در یک مجموعه داده آموزشی (Training dataset)، می‌تواند طوفانی در اقتصاد واقعی به پا کند.

وقتی خسارت وارد می‌شود، هیچ رد و رسیدی باقی نمی‌ماند. فرآیند استدلال یک ایجنت، یک مسیر کرونولوژیک و گام‌به‌گام قابل ردیابی نیست؛ بلکه صرفاً یک بار عبور از میان میلیاردها پارامتر کدر و مبهم (opaque parameters) است و خروجی‌های آن احتمالی (probabilistic) هستند. اگر یک سوال را دو بار از آن بپرسید، دو پاسخ کمی متفاوت دریافت خواهید کرد. هیچ راهی برای بازسازی تصمیمی که بر پایه متغیرهای دائماً در حال تغییر شکل گرفته، وجود ندارد. هیچ راهی برای حسابرسی اینکه ایجنت روی چه چیزی آموزش دیده، از چه دستورالعمل‌هایی پیروی کرده یا چرا آن کار را انجام داده است، وجود ندارد.

گزارش اخیر دانشگاه استنفورد این چالش محوری را به وضوح تبیین می‌کند: چالش تعیین‌کننده این عصر، شکاف میان توانایی‌های هوش مصنوعی و آمادگی جامعه برای حاکمیت و نظارت بر آن است. قانون‌گذاری در قلب این چالش قرار دارد و خود به یک باتلاق تبدیل شده است: موجی از چارچوب‌های فدرال که اکنون شامل بیش از ۹۰ توصیه‌نامه است، همراه با انفجاری از فعالیت‌ها در سطح ایالتی، که تنها در سال ۲۰۲۵ شاهد معرفی بیش از ۱۰۰۰ لایحه بوده‌ایم. با این حال، چارچوب‌هایی که در حال نگارش هستند برای دنیای چت‌بات‌ها طراحی شده‌اند، نه برای دنیای ایجنت‌هایی که خرید و فروش می‌کنند، منتشر می‌سازند، مشاوره می‌دهند، متقاعد می‌کنند و تصمیم می‌گیرند.

برچسب‌گذاری محتوا کمکی نخواهد کرد و شفاف‌سازی نیز کافی نیست. به محض اینکه یک ایجنت خودمختار اقدامی انجام دهد، خسارت وارد شده است. این یک مسئله «راستی‌آزمایی» (Verification) است.

و راستی‌آزمایی نیازمند «اثبات» است.

اثبات، ما را نجات خواهد داد!

«اثبات» (Proof) در این زمینه، امری رمزنگاری‌شده (Cryptographic) و به‌طور مستقل قابل راستی‌آزمایی است؛ نه یک ادعا، نه یک شفاف‌سازی و نه یک واترمارک. یک تضمین تغییرناپذیر که نشان می‌دهد یک سیستم هوش مصنوعی دقیقاً همان کاری را انجام داده که ادعا می‌کند، با همان ورودی‌هایی که ادعا می‌کند استفاده کرده و همان خروجی‌هایی را تولید کرده که ادعا می‌کند؛ بدون اینکه هرگز داده‌های زیربنایی و حساس خود را فاش سازد.

این دقیقاً همان چیزی است که رمزنگاری «اثبات دانایی صفر» (Zero-Knowledge Proof یا به اختصار ZK) امکان‌پذیر می‌کند. یک اثبات ZK به یک طرف اجازه می‌دهد ثابت کند یک گزاره درست است، بدون اینکه هیچ اطلاعاتی فراتر از خودِ حقیقت آن گزاره فاش شود. این مفهوم که اولین بار در مقاله سال ۱۹۸۵ دانشگاه MIT با عنوان «پیچیدگی دانش در سیستم‌های اثبات تعاملی» فرموله‌سازی شد، در ابتدا اثری ظریف اما صرفاً تئوریک به نظر می‌رسید. این نگاه در سال ۲۰۱۶ تغییر کرد؛ یعنی زمانی که محققان نشان دادند می‌توان از این روش برای راستی‌آزمایی کلاهک‌های هسته‌ای بدون افشای طراحی ساختاری آن‌ها استفاده کرد. مدت کوتاهی پس از آن، این فناوری وارد بلاک‌چین‌ها شد و امنیت میلیاردها دلار دارایی دیجیتال را تأمین کرد.

اکنون، فناوری ZK در حال ورود به دنیای هوش مصنوعی است؛ جایی که مسئله اصلی دیگر محاسبات نیست، بلکه «حقیقت» است.

در حوزه رسانه، ZK می‌تواند ثابت کند که یک عکس توسط یک دستگاه واقعی، در یک زمان تأییدشده ثبت شده و دست‌کاری نشده است؛ بدون اینکه هیچ اطلاعات حساسی درباره عکس یا عکاس فاش شود. همین یک مورد به تنهایی می‌تواند محیط اطلاعاتی را متحول کند. اما اصالت‌سنجی رسانه تازه نقطه ورود است، نه نقطه پایان!

کاربرد عمیق‌تر این فناوری در خودِ هوش مصنوعی است. در مرحله استنتاج (Inference)، فناوری ZK می‌تواند ثابت کند که یک مدل مشخص با پارامترهای مشخص، یک خروجی مشخص را تولید کرده است؛ یک رسید قابل راستی‌آزمایی برای هر تصمیمی که یک ایجنت اتخاذ می‌کند. در مرحله ورودی (Input)، این فناوری می‌تواند گواهی دهد که داده‌های آموزشی مسموم نبوده‌اند، از منابع مجاز تهیه شده‌اند و الزامات قانونی را برآورده می‌کنند، بدون اینکه مجموعه‌داده‌های تجاری و محرمانه فاش شوند. در مرحله خروجی (Output)، این فناوری می‌تواند یک نتیجه را به فرآیند سازنده آن گره بزند و بدون افشای اسرار تجاری، هر تصمیم سرنوشت‌ساز هوش مصنوعی را قابل حسابرسی کند. در لایه هویت نیز ZK به انسان‌ها اجازه می‌دهد ثابت کنند انسان هستند و به ایجنت‌ها اجازه می‌دهد ثابت کنند ایجنت هستند، بدون اینکه هیچ‌یک مجبور به فدا کردن حریم خصوصی خود شوند.

چارچوبی مفهومی برای بازگرداندن اعتماد به فضای آنلاین

در دهه ۱۹۹۰، وب با بحران اعتماد مواجه بود. هر کسی می‌توانست سروری راه بیندازد و ادعا کند که هر کس دیگری است. رمزهای عبور، کارت‌های اعتباری و پیام‌های خصوصی به صورت متن ساده (Plain text) در اینترنت جابه‌جا می‌شدند و برای همه قابل خواندن بودند. تجارت در مقیاس کلان غیرممکن بود، زیرا هیچ راهی برای تأیید اینکه سایتی که به آن متصل می‌شوید واقعاً همان سایت مدنظر است یا خیر، وجود نداشت.

راهکار این مشکل، پروتکل HTTPS بود. مرورگرها اعتماد پیش‌فرض به وب‌سایت‌ها را متوقف کردند و خواستار اثبات رمزنگاری‌شده شدند: یک گواهی (Certificate) امضاشده توسط یک مرجع شناخته‌شده که یک دامنه را به یک کلید عمومی متصل می‌کرد. بدون اثبات، از آیکون قفل در مرورگر خبری نبود. در نهایت، بدون اثبات، هیچ اتصالی برقرار نمی‌شد. وب به این دلیل قابل اعتماد نشد که پلتفرم‌ها قول دادند خوش‌رفتار باشند؛ بلکه به این دلیل قابل اعتماد شد که مرورگرها از انتقال داده‌های حساس به هر کسی که نمی‌توانست هویت خود را ثابت کند، خودداری کردند.

نسل اول وب (Web1) بر پایه ریاضیات توسعه یافت.

نسل دوم وب (Web2) بر پایه معامله دیگری شکل گرفت. ماده ۲۳۰ قانون رعایت اخلاق در ارتباطات (Section 230)، به پلتفرم‌ها یک سپر حمایتی در قبال مسئولیت محتوای تولیدشده توسط کاربران اعطا کرد و اینترنت اجتماعی روی این بستر منفجر شد. برای آزادی بیان، این یک معامله درست بود. بدون آن، نه فیس‌بوکی وجود داشت، نه یوتیوبی و نه اینترنتی مبتنی بر محتوای کاربران. اما آن معامله برای انسان‌هایی ساخته شده بود که روی تایم‌لاین‌ها پست می‌گذاشتند، نه برای سیستم‌های خودمختاری که در جهان دست به عمل می‌زنند. آن قانون هرگز مجبور نبود به سوالی پاسخ دهد که اکنون ایجنت‌ها ما را به آن وا می‌دارند: وقتی فاعل یک عمل یک شخص نیست، چه کسی مسئول و پاسخگوست؟

سپس نوبت به نسل سوم وب (Web3) رسید. «کریس دیکسون» (Chris Dixon)، سرمایه‌گذار معروف، آن را «بخوان، بنویس، مالک شو» نامید؛ کاربران کنترل داده‌های خود را در دست می‌گیرند، خالقان ارزش خود را تصاحب می‌کنند و پلتفرم‌ها به جوامع پاسخگو هستند. ایده اصلی، مالکیت و تمرکززدایی بود، اما این ایده چندان به ثمر ننشست. وب۳ با سفته‌بازی در بازار NFTها مترادف شد و هنگامی که ارزش‌ها سقوط کردند، آن چشم‌انداز نیز فرو ریخت.

غریزه و جهت‌گیری وب۳ درست بود: ما به راهی نیاز داریم تا «ایمان و باور» را با «تضمین‌ها» جایگزین کنیم. اما مالکیت به تنهایی نمی‌توانست ما را به آنجا برساند. هوش مصنوعی و ایجنت‌ها این موضوع را روشن می‌کنند. مسئله این نیست که چه کسی مالک پلتفرم است؛ مسئله این است که آیا می‌توان به کسی یا چیزی که روی آن پلتفرم عمل می‌کند اعتماد کرد یا خیر. توکن‌ها (Tokens) ابزار اولیه اشتباهی بودند؛ «اثبات‌ها» (Proofs) ابزار درست هستند.

در اینترنتی مبتنی بر ایجنت‌ها، طرفین تعامل — چه انسان و چه ماشین — نیازمند تضمین هستند: چه کسی این سیستم را ساخته، چه داده‌هایی به آن شکل داده، چه محدودیت‌هایی بر آن حاکم است و آیا مجاز به اقدام هست یا خیر. این تضمین‌ها باید پابرجا بمانند، حتی زمانی که سیستم‌های زیربنایی محرمانه و تجاری هستند؛ به‌ویژه در آن زمان.

رمزنگاری دانایی صفر این امر را با متعهد کردن پیش‌فرض سیستم‌ها ممکن می‌سازد. یک توسعه‌دهنده می‌تواند داده‌های آموزشی خود را به صورت رمزنگاری‌شده اثرانگشت‌گذاری (Fingerprint) کند و به اثبات‌های ZK اجازه دهد هویت، اصالت، داده‌های آموزشی و محدودیت‌های عملیاتی را بدون افشای داده‌های اصلی راستی‌آزمایی کنند. فرمول پلتفرم‌های آینده دیگر «به من اعتماد کن» نیست، بلکه «ثابتش کن» است.

این موضوع دیگر صرفاً یک مسئله حمایت از مصرف‌کننده نیست؛ بلکه یک مسئله امنیت ملی است!

جعل عمیق (Deepfakes) تنها گرم کردن پیش از بازی بود؛ ایجنت‌ها رویداد اصلی هستند. دشمنان خارجی به دست‌کاری آنچه آمریکایی‌ها می‌بینند بسنده نخواهند کرد؛ آن‌ها ایجنت‌هایی را برای دست‌کاری نحوه «عمل» آن‌ها مستقر خواهند کرد. آن‌ها سیستم‌های خودمختاری را پیاده می‌کنند که در بازارهای ما معامله کنند، با نهادهای ما تعامل داشته باشند و با فرزندان ما ارتباط برقرار کنند، بدون اینکه هیچ طرف تعاملی راهی برای راستی‌آزمایی ماهیت آن‌ها یا اینکه چه کسی به آن‌ها مجوز داده است، داشته باشد. این مشکل قابل حل است، اما تنها در صورتی که ساختارها و ریل‌گذاری‌های آن پیش از آنکه دشمنان راه سوءاستفاده از نبودشان را یاد بگیرند، پایه‌ریزی شود.

سیاست‌گذاری‌ها نیز باید از همین منطق پیروی کنند. مجالس باید الزام کنند که ایجنت‌های هوش مصنوعی با ریسک بالا (مانند آن‌هایی که تراکنش‌های مالی را انجام می‌دهند یا با افراد زیر سن قانونی تعامل دارند)، حامل اثبات‌های رمزنگاری‌شده از هویت خود، صادرکننده مجوز خود و حدود اختیارات خود باشند؛ اثباتی که برای هر طرف تعاملی بدون نیاز به افشای اطلاعات محرمانه تجاری، قابل راستی‌آزمایی باشد. همین منطق باید به کارهایی که آن ایجنت‌ها انجام می‌دهند نیز تعمیم یابد: همان‌طور که ایجنت‌ها شروع به معامله به جای مردم و کسب‌وکارها با سرعت و مقیاس ماشین می‌کنند، هر اقدام سرنوشت‌ساز — یک پرداخت، یک قرارداد، یک معامله، یک تبادل داده — باید حامل اثباتی باشد که نشان دهد چه کسی و تحت چه محدودیت‌هایی به آن مجوز داده است.

پایه‌های فنی این کار از هم‌اکنون در حال بنا شدن است: وزارت بازرگانی ایالات متحده، از طریق مؤسسه ملی فناوری و استانداردها (NIST)، در حال بررسی استانداردسازی دانایی صفر از طریق ابتکار عمل «رمزنگاری ارتقادهنده حریم خصوصی» است. این کار باید در اولویت قرار گیرد و خروجی‌های آن باید به معیار شاخص فدرال تبدیل شود. مسئولیت حقوقی و قانونی نباید به خودِ محتوا، بلکه باید به «عدم وجود اثبات» تعلق گیرد.

پروتکل HTTPS قابلیت «خواندن» را به ما داد. ماده ۲۳۰ قابلیت «نوشتن» را بخشید. و فناوری ZK، قابلیت «اثبات کردن» را به ما اعطا می‌کند.

منبع: Coindesk