شبکه عصبی ابزاری است که به کمک دوربین های نظارتی آمده است اما میتواند مقابل آن نیز عمل کند.
در رمان «تاریخ صفر» ویلیام گیبسون، شخصیتی وجود دارد که زشت‌ترین و مضحک‌ترین تیشرت دنیا را بر تن دارد و جالب آنکه این لباس میتواند به طرز شگفت‌انگیزی، فرد پوشنده را در برابر دوربین‌های مداربسته نامرئی کند.
محققان دانشگاه نورث ایسترن، ام‌آی‌تی و آی‌بی‌ام موفق به طراحی لباسی شده‌اند که با رنگ کالیدوسکوپیک چاپ شده روی آن میتواند کاربر را در برابر هوش مصنوعی، غیرقابل شناسایی کند.
این دستاورد نمونه‌ای از چند محصول تولیدی در زمینه مقابله با نظارت دیجیتال محسوب می‌شود.
ژو لین، از اساتید دانشگاه نورث ایسترن و پژوهشگر این گروه تحقیقاتی توضیح می‌دهد: این تیشرت روی شبکه‌های عصبی که برای تشخیص اشیا مورد استفاده قرار می‌گیرد، اثر می‌گذارد.
معمولا زمانی که یک شبکه عصبی، شخص یا جسمی را در تصویر شناسایی می‌کند، یک باکس محدودکننده اطراف آن رسم می‌کند و یک برچسب به آن شیء اختصاص می‌دهد.
لین و همکارانش با یافتن نقاط مرزی یک شبکه عصبی (آستانه‌هایی که در آن تصمیم می‌گیرد که آیا مورد مشاهده شده، یک شیء است یا خیر) توانسته‌اند طرحی را ایجاد کنند که میتواند سیستم طبقه‌بندی و برچسب‌گذاری شبکه هوش مصنوعی را به اشتباه بیندازد.
با نگاهی دقیق و تخصصی به دو شبکه عصبی تشخیص اشیا به نام‌های Yolo۲ و Faster R-CNN، این گروه تحقیقاتی توانستند مناطقی از بدن را شناسایی کنند که با افزایش نویز پیکسل به آن می‌توانند هوش مصنوعی را گیج کند.
دور زدن هوش مصنوعی با کمک شبکه عصبی
این نخستین باری نیست که تلاش‌هایی برای دور زدن و گیج کردن فناوری هوش مصنوعی صورت گرفته است.
در سال ۲۰۱۶، محققان دانشگاه‌های Carnegie Mellon و North Carolina، عینک‌هایی را طراحی کردند که می‌توانست فناوری تشخیص چهره را فریب دهد تا کاربر را به اشتباه در پایگاه داده خود، طبقه‌بندی کند. در سال ۲۰۱۷ نیز محققان آمریکایی توانستند شبکه‌های عصبی عمیق را به نحوی فریب دهند که علامت توقف را به عنوان علامت محدوده سرعت ۴۵ مایل بر ساعت تشخیص دهند.
باتیستا بیگو، از اساتید دانشگاه و محققان این حوزه می‌گوید: برای چنین سیستم‌هایی، چالش واقعی این است که در طول مدت ویدئو، ناشناخته بمانید. هنگامی که فرآیند تشخیص در هر فریم اجرا می‌شود، ناشناخته ماندن به‌طور مداوم، بسیار سخت می‌شود.
برخلاف علائم توقف، تی‌شرت‌ها هنگام حرکت پوشنده، چین و چروک پیدا می‌کنند و بنابراین، این موضوع باید در نظر گرفته شود.
دستاورد اخیر محققان در این زمینه، نخستین نمونه برای یک شیء متحرک محسوب می‌شود که توانست به‌طور دقیق، چین و چروک لباس‌های یک فرد حین راه رفتن را ردیابی و مانع از تشخیص آن توسط دوربین‌های هوش مصنوعی شود.
لین می‌گوید: که بعید است این تی‌شرت‌ها به دنیای واقعی راه یابند. در واقع، هدف این گروه از محققان آن نیست تا مردم بتوانند خود را از فناوری‌های نظارتی پنهان کنند. بلکه هدف گروه، یافتن حفره‌هایی در شبکه‌های عصبی است تا شرکت‌های نظارتی بتوانند آنها را برطرف کنند.
این مقاله برگرفته از وبسایت دنیای اقتصاد است.
در مورد شبکه عصبی بیشتر بیاموزید: در مسیر آموزشی دانشمند داده دایکه ثبت نام کنید.
