وینتون سرف (Vinton Cerf)، یکی از کارشناسان امنیتی، در اجلاس جنگ سایبری آمریکا درباره مسئله خودکار سازی و هوش مصنوعی گفت: «من اخبار بدی دارم. ما این نبرد را برای ایمنی، حفظ حریم خصوصی و امنیت در فضای سایبری از دست می‌دهیم. دلیل این مشکل ابزارهای برنامه‌نویسی واقعاً بد است. ما نرم‌افزاری نداریم که در شناسایی اشتباهاتمان به ما کمک کند، آنچه من می‌خواهم، یک قطعه نرم‌افزاری است که در زمان برنامه‌ریزی، کار نظارت را نیز انجام دهد. تصور کنید من در حال تایپ کردن هستم و او می‌گوید که سرریز بافر رخ داده است. این یک اشتباه رایج است که اجازه می‌دهد هکرها اطلاعات را فراتر از مناطق بافر که در آن مجاز هستند همانند هک با باگ Heartbleed مشاهده کنند.»
سرف اظهار داشت که چنین کنترل‌کننده اتوماتیک نیازمند هوش مصنوعی در آینده دور نیست. زبان‌های جدید برنامه‌نویسی مانند TLA+ و COQ وجود دارند که حداقل بخش‌هایی از مشکل را نشان می‌دهند؛ و هردو زبان، «روش‌های رسمی» یا «تجزیه‌وتحلیل رسمی» نامیده و برای تعریف و تست نرم‌افزار دقیق و ریاضی، استفاده می‌شوند. همچنین روش‌های نیمه‌خودکاری برای بررسی امنیت شبکه در سیستم، مانند fuzzing وجود دارد که اساساً به‌طور خودکار، ورودی‌های تصادفی را برای دیدن اینکه آیا آن‌ها می‌توانند باعث سقوط برنامه شوند، تولید می‌کنند.
برملی گفت: «هوش مصنوعی لازم نیست که ازنظر پیچیدگی مفید باشد. به‌طور مثال برنامه «میهم»، نیازمند هوش مصنوعی است اما ما از یک سیستم یادگیری ماشین استفاده نکردیم. در واقع، شرکت انویدیا (NVIDIA) آخرین GPU های خود را ارائه داد، اما ما برای آن‌ها استفاده نکردیم. در حقیقت مهم‌ترین سلاح میهم تجزیه‌وتحلیل رسمی بود.»
مدیرعامل شرکت هکر وان درنهایت عنوان کرد: «در این زمینه پتانسیل زیادی وجود دارد، اما ما در مراحل بسیار اولیه هوش مصنوعی واقعی و یادگیری ماشینی هستیم. ابزارهای ما برای تشخیص ضعف‌های مشکل‌ساز بسیار خوب هستند. امروزه باید به همه‌ی خودکارسازی‌های موجود برای ارزیابی مشکلات واقعی توجه شود. تقریباً همه آن‌ها با موارد کاذبی روبرو هستند که هنوز هم به یک انسان نیاز دارد تا پس از بررسی، آسیب‌پذیری را شناسایی کند.»
در صورت ترکیب هوش مصنوعی و استفاده از نیروهای متخصص است که می‌توان از شدت آسیب‌پذیری‌ها کاست و به خطاهای برنامه‌نویسی پی برد. به همین دلیل است که وزارت دفاع آمریکا، هم‌زمان به استفاده از هوش مصنوعی و افزایش متخصصان سایبری روی آورده است.
یک نظر