معلمان نگران این هستند که دانشآموزان از هوش مصنوعی برای انجام تکالیفشان استفاده کنند، ناشران نگرانند که نویسندگان از آن برای تمام کردن کتابهایشان بهره بگیرند، اما اکنون کارشناسان امنیت زیستی (Biosecurity) دغدغه بسیار بزرگتری دارند: توانایی هوش مصنوعی در طراحی عوامل بیولوژیکی خطرناک. این موضوع به اندازهای جدی است که شرکتهای بزرگ فناوری، دانشمندان برجسته و مدافعان امنیت ملی را همگی همصدا و نگران یک چالش مشترک کرده است.
این ترس وجود دارد که سیستمهای هوش مصنوعی اکنون آنقدر توانمند شدهاند که میتوانند مولکولهای بیولوژیکی را طراحی کنند و در انجام دیگر کارهای پیچیده آزمایشگاهی که زمانی کارشناسانِ بهشدت آموزشدیده از پسِ آنها برمیآمدند، کمک کنند.
حالا مدیران ارشد شرکتها، از مایکروسافت گرفته تا اوپنایآی (OpenAI) و آنتروپیک (Anthropic)، به جمع کسانی پیوستهاند که از کنگره آمریکا میخواهند دست به اقدام بزند. به طور مشخص، امید آنها این است که دولت غربالگریِ اجباریِ سفارشهای DNA و RNA مصنوعی را الزامی کند تا مانع از آن شود که افراد مخرب به دنبال سلاحهای بیولوژیکی خطرناک (و بالقوه مرگبار) بروند.
در حال حاضر، برنامههای غربالگری که توسط برخی از شرکتهای بیولوژی مصنوعی اجرا میشوند، تا حد زیادی داوطلبانه هستند. اما حامیان تدوین قوانین جدید میگویند پیش از آنکه تواناییهای هوش مصنوعی از این هم فراتر رود، این غربالگریها باید در سراسر کشور به یک الزام تبدیل شوند. قانونگذاران در حال حاضر پیشرفتهایی در زمینه طرحهای مشابه داشتهاند؛ از جمله «قانون مدرنسازی و نوآوری امنیت زیستی سال ۲۰۲۶». در صورت تصویب، این قانون شرکتهای فروشنده مواد ژنتیکی مصنوعی را ملزم میکند تا هم مشتریان و هم سفارشها را غربالگری کنند و در عین حال، سوابق آنها را برای کمک به تحقیقات احتمالی در آینده نگه دارند.
اختلاف نظر دانشمندان درباره بهترین راهکار برای حل این مشکل
با این حال، نظرات درباره اینکه این خطر با چه سرعتی در حال رشد است و چه کاری باید در قبال آن انجام شود، متفاوت است. به طور کلی، سیستمهای هوش مصنوعی بیولوژیکی در حال حاضر میتوانند پروتئینها را طراحی کنند، تکامل ویروسها را پیشبینی نمایند و ساختارهای مولکولی جدیدی ایجاد کنند. بخش زیادی از نگرانیها نیز از همینجا نشأت میگیرد. دانشمندان نگرانند که نسخههای آینده این فناوری بتوانند برای مهندسی سموم، تقویت پاتوژنهای (عوامل بیماریزا) موجود و حتی توسعه تهدیدات بیولوژیکی کاملاً جدید مورد استفاده قرار گیرند. این نگرانی بیاساس هم نیست؛ پژوهشگران میتوانند به مطالعاتی اشاره کنند که نشان میدهند مدلهای زبانی پیشرفته در حال حاضر میتوانند به کاربران در انجام کارهای تخصصی بیولوژیکی، در سطحی نزدیک به دانشمندان باسابقه، کمک کنند.
با این وجود، طراحی یک ارگانیسم مضر روی کامپیوتر تنها گام اول است. یادآوری این نکته مهم است که تولید، آزمایش و بهکارگیری عوامل بیولوژیکی همچنان نیازمند تجهیزات تخصصی، دانش فنی و منابع متعدد دیگری است که برای اکثر مردم غیرقابل دسترس باقی مانده است. به همین دلیل است که کارشناسان استدلال میکنند مؤثرترین دفاع، تقویت نظارت در همان نقطهای است که طرحهای دیجیتال به واقعیت فیزیکی تبدیل میشوند (یعنی همان شرکتهای سنتز و تولید DNA). فارغ از اینکه این محدودیتها و مواضع دفاعی در نهایت روی نرمافزار اعمال شوند یا سختافزار، نکته اصلی پابرجا است: اگر صنعت و پژوهشگران واقعاً میخواهند جلوی افراد آماتور را در ترکیب هوش مصنوعی و تسلیحات بگیرند، باید هرچه سریعتر وارد عمل شوند.
منبع: Slashgear
