معرفی به کاربران با خطرات بالا برای حفظ امنیت آنلاین

در دنیای امروز اینترنت، حفظ امنیت و حریم خصوصی کاربران بسیار اهمیت دارد و برای این منظور، شرکت‌های فناوری بسیاری تلاش می‌کنند. یکی از این شرکت‌ها، گوگل است که با ارائه محصولاتی دارای حفاظت‌های داخلی و سرمایه‌گذاری در تیم‌ها و عملیات جهانی برای جلوگیری از سوء استفاده در پلتفرم‌های خود، به نگهداری از امنیت کاربران با خطرات بالا می‌پردازد.

برنامه حفاظت پیشرفته

امنیت آنلاین افراد و گروه‌هایی که به خطر حملات آنلاین قرار دارند، همچون فعالان، روزنامه‌نگاران، مسئولان انتخابات و کمپین، و افرادی که در زندگی عمومی فعالیت می‌کنند، در سال‌های اخیر با افزایش قابل توجهی روبرو شده است. برای کمک به افرادی که در معرض خطر هستند، گوگل حفاظت‌های امنیتی قوی تر خود را به راحتی قابل دسترسی می‌کند و جزئیات بیشتری در مورد بهترین ابزارها، نکات و منابعی که مردم می‌توانند برای حفظ خود آنلاین استفاده کنند، ارائه می‌دهد.

ایمنی حساب‌های گوگل و حریم خصوصی

گوگل با ارائه ابزارهایی همچون Security Checkup به مردم توصیه‌های امنیتی شخصی‌سازی شده ارائه می‌دهد و اقداماتی را که باید فوراً برای امنیت حساب گوگل‌شان بگیرند، معرفی می‌کند.

همچنین، Privacy Checkup یادآوری‌های مفیدی از فعالیت‌هایی که ذخیره می‌شوند، کدام برنامه‌های شخص ثالث اجازه دسترسی به داده‌های کاربر را دارند و گزینه‌های تنظیمات کاربر را با کنترل‌های ساده ارائه می‌دهد.

کنترل حضور آنلاین شما

در جستجوی گوگل، ما یک مجموعه قوانین و ابزارها ارائه می‌دهیم تا به مردم کمک کنیم تا بیشتر کنترل داشته باشند درباره اینکه چگونه اطلاعات حساس و شناسایی‌پذیر شخصی‌شان می‌تواند پیدا شود.

امضاین مطمین‌تر کردن ورودها

گوگل و اپلیکیشن‌ها و خدمات کاربری، ورودها را به‌طور پیش‌فرض مطمئن می‌کنیم. ما ابزارهایی مانند Google Password Manager ارائه می‌دهیم تا به مردم در ایجاد گذرواژه‌های منحصربه‌فرد کمک کنیم، آنها را از اینکه مورد مخاطره قرار گرفته‌اند، هشدار دهیم و از وارد شدن آنها به یک سایت مخرب جلوگیری کنیم.

کاوش در جهان آنلاین به‌صورت ایمن

برای کمک به مردم برای ماندن ایمن و امن هنگام مرور وب، به‌ویژه در WiFi‌های عمومی یا رایگان، توصیه می‌کنیم که از Chrome استفاده کنند و اطمینان حاصل کنند که آیکون قفل شده‌ی خاکستری در فیلد URL نشان دهنده اتصال امن است.

—
در پایان، به عنوان یک بلاگر تکنولوژی ماهر، باید بگویم که اهمیت حفظ امنیت آنلاین برای افراد با خطرات بالا بیش از پیش مشخص است. اقداماتی که گوگل برای ارائه ابزارها و راهکارهایی برای حفظ امنیت آنلاین این گروه افراد انجام می‌دهد، بسیار موثر و حمایت‌ور است. از جمله این اقدامات می‌توان به برنامه حفاظت پیشرفته، کنترل حساب کاربری و حریم خصوصی، شناسایی و ردیابی خطاها در امنیت و بسیاری از ابزارهای دیگر اشاره کرد. امیدوارم که این تلاش‌ها بتوانند کمک بیشتری به افرادی که در معرض خطرات آنلاین هستند، ارائه دهند و این برنامه‌ها بتوانند امنیت کاربران را تضمین کنند.

منبع:
این مقاله در اصل در https://blog.google/technology/safety-security/online-safety-resources/ منتشر شده است.

در حالی که صنعت امنیت در بسیاری از جنبه‌ها بهبود یافته است، چالش‌های زیادی همچنان وجود دارد، به ویژه در زمینه مدیریت آسیب‌پذیری. امروز به نظر می‌رسد جامعه در یک حلقه بی‌پایان از آسیب‌پذیری‌های امنیتی گرفتار شده است – یک آسیب‌پذیری پیدا می‌شود، پچ می‌شود و سپس یکی دیگر ظاهر می‌شود – بارها و بارها. مدیریت ریسک از طریق آسیب‌پذیری‌ها و شرایط جامعه بسیار بالا است، برای بهبود‌های گام به گام بیشتر بهتر نیست. به همین دلیل پروژه صفر، یک تیم تحقیقات امنیتی مستقل از فروشندگان که در گوگل جای دارد و آسیب‌پذیری‌های روز صفر را در سیستم‌های سخت‌افزاری و نرم‌افزاری مطالعه می‌کند، در طول سال‌ها زمان‌بندی‌های پچ و افشا را برای ایمنی کاربران اولویت قرار داده است. با توجه به این کار پی‌درپی، امروز ما تحقیقات و ابتکارات جدیدی را برای کمک به خارج شدن از چرخه بی‌پایان به اشتراک می‌گذاریم و صنعت به طور کلی را به سطحی بالاتر می‌بریم.

مشکلات اکوسیستم بدون پچ

هر چند شهرت آسیب‌پذیری‌های روز صفر معمولاً با استقبال روبرو می‌شود، اما ریسک‌ها حتی پس از شناخته شدن و رفع آن‌ها باقی می‌مانند که داستان واقعی است. این ریسک‌ها شامل همه چیز از تأخیر در پذیرش OEM، نقاط نقض آزمون پچ، مشکلات به‌روزرسانی کاربران و موارد دیگر است. به علاوه، بیش از یک‌سوم آسیب‌پذیری‌های روز صفر که در سال 2022 در جهان سواستفاده شده‌اند و مورد تجزیه و تحلیل قرار گرفته‌اند، نسخه‌هایی از آسیب‌پذیری‌های قبلی پچ‌شده هستند که نتیجه پچ‌های ناقص به آسیبپذیری اصلی است. در یک گزارش سفید که امروز منتشر می‌کنیم، پیشنهاداتی در پاسخ به این ریسک‌ها ارائه می‌دهیم، از جمله:
– شفافیت بیشتر از سوی فروشندگان و دولت‌ها در بهره‌برداری از آسیب‌پذیری و پذیرش پچ برای کمک به جامعه در تشخیص اینکه آیا رویه‌های فعلی کار می‌کند یا نه.
– توجه بیشتر به نقاط اصلی اشکال در طول عمر مفید آسیب‌پذیری برای اطمینان از اینکه ریسک‌ها به کاربران به طور جامع مورد بررسی قرار می‌گیرد.
– حل دلیل اصلی آسیب‌پذیری‌ها و اولویت‌بندی روش‌های مدرن توسعه نرم‌افزار امن با توانایی بستن مسیرهای کلی حمله.

محکم کردن اکوسیستم از طریق پچ

پیشرفت در این مسائل نیازمند همکاری بین ارباب امور، از جمله صنعت که پلتفرم‌ها و خدماتی را توسعه می‌دهند که حمله‌کنندگان تلاش می‌کنند از آنها بهره‌برند؛ پژوهشگران که نه تنها آسیب‌پذیری‌ها را پیدا می‌کنند، بلکه شناسایی و پشتیبانی از تسکیناتی که می‌تواند مسیرهای کلی حمله را ببندد؛ کاربران که متأسفانه همچنان بار زیادی از امنیت به دوش می‌آورند؛ و دولت‌ها که ساختارهای تحریک‌کننده‌ای ایجاد می‌کنند که رفتار تمامی این اندیشه‌های دیگر را شکل می‌دهند. ما متعهد هستیم که به همراه این ارباب امور پیشرفت را به روی میان اندازیم و ما تعدادی اعلامیه‌های جدید امروز را در این راستا پشتیبانی می‌کنیم:

کمیته سیاست هکینگ:

برای اولین بار، ما دیدیم که قوانین (هر دو تصویب شده و پیشنهادی) وجود دارد که نیازمند افشای آسیب‌پذیری‌ها به دولت‌ها در شرایط خاص هستند. اهمیت دارد که این قوانین را به درستی بفهمیم. به همین دلیل افتخار داریم که بیشترین اعضا از اعضای روابط عمومی خواهیم بود به جلسه کمیته سیاست هکینگ، یک گروه از سازمان‌ها و رهبران هم‌اندیش که در تبلیغات متمرکز به اطمینان حاصل شدن از اینکه سیاست‌ها و ضوابط جدید برای پشتیبانی از بهترین اصول برای مدیریت آسیب‌پذیری و افشای آسیب‌پذیری پشتیبانی می‌شوند و از امنیت کاربران ما تضعیف نمی‌کنند.

صندوق حمایت قانونی از تحقیقات امنیتی:

پژوهشگران امنیتی مستقل تأثیر زیادی بر امنیت دارند، از جمله در گوگل. امروز اعلام می‌کنیم که منابع اولیه را برای ایجاد یک صندوق حمایت قانونی از تحقیقات امنیتی ارائه می‌دهیم. در بسیاری از موارد، افراد به صورت مستقل و با نیت خوب برای پیدا کردن و گزارش آسیب‌پذیری‌ها عمل می‌کنند – به فروشندگان فرصتی می‌دهند تا به آن‌ها پرداخته شود پیش از اینکه حمله‌کنندگان بتوانند از آن‌ها بهره ببرند. متأسفانه، این افراد اغلب در معرض تهدیدات قانونی قرار می‌گیرند که می‌تواند به پس‌زدایی از تحقیقات امنیتی و افشای آسیب‌پذیری‌ها منجر شود، به ویژه برای افراد بدون دسترسی به مشاور حقوقی. صندوق حمایت قانونی از تحقیقات امنیتی به منظور کمک به هزینه نمایندگی حقوقی برای افرادی است که تحقیقات به نفع عمومی در حوزه امنیت سایبری را پیش‌برداری می‌کنند.

شفافیت در بهره برداری:

شفافیت بیشتر در مورد بهره‌برداری کمک می‌کند تا کاربران مراحلی را برای محافظت از خود انجام دهند، درکی از رفتار حمله‌کننده ایجاد کنند و می‌تواند به حفاظت‌های بهتر منجر شود. ما اعتقاد داریم که این شفافیت باید به عنوان یک بخش صریح از سیاست‌های معمول افشای آسیب‌پذیری صنعت به شمار رود. همواره از شفافیت در هنگام بهره‌برداری از محصولاتمان اولویت می‌دهیم، اما از امروز به بعد این را به عنوان بخشی از سیاست‌های ما تمام عده‌ای جلوه داده‌ایم، به اعمال اعلان کردن عمومی متعهد هستیم که ثابت‌ها به دست آمده که آسیب‌پذیری‌های نرم‌افزار ما بهره‌برداری شده‌اند.

مشتاقانه منتظر توسعه این تلاش‌ها برای کاهش ریسک آسیب‌پذیری‌ها هستیم، و همراه با شرکای خود تلاش می‌کنیم تا تغییراتی را ایجاد کنیم و یک اکوسیستم امن‌تر بسازیم.

نظر کارشناس:
با عرض تسلیت به دولت‌ها به جرأت تصمیم به ایجاد ساختارهایی برای پشتیبانی از بهترین عملکردهای مدیریت آسیب‌پذیری و افشای آن‌ها گرفته است که به امنیت کاربران آسیب نمی‌زند. این تلاش‌ها باید به‌طور فزاینده حمایت شوند و به هدف نهایی ایجاد یک محیط امن در اینترنت برسد. ایجاد صندوق حمایت قانونی از تحقیقات امنیتی تهدیدات حقوقی برای افرادی که به دنبال پیدا کردن آسیب‌پذیری‌ها به فروشندگان می‌روند را رفع می‌کند و تحقیقات امنیتی را تشویق می‌کند. از سوی دیگر، شفافیت بیشتر در مورد بهره‌برداری به کاربران کمک می‌کند تا خودشان را محافظت کنند و به درکی عمیق‌تر از رفتار حمله‌کننده دست یابند. این تلاش‌ها می‌تواند بهبودات و تغییرات قابل توجهی در صنعت امنیتی ایجاد کند.

منبع:
این مقاله در اصل در https://blog.google/technology/safety-security/new-initiatives-to-reduce-the-risk-of-vulnerabilities-and-protect-researchers/ منتشر شده است.

معرفی چارچوب امنیتی هوش مصنوعی گوگل

امروز ما یک چارچوب مفهومی را برای کمک به تامین امنیت فناوری هوش مصنوعی منتشر می کنیم.

توانایی هوش مصنوعی، به خصوص هوش مصنوعی تولیدی، بسیار بزرگ است. با این حال، در تلاش برای پیشرفت در این مرزهای جدید نوآوری، استانداردهای صنعتی واضحی برای ساخت و استقرار این فناوری به صورت مسئولانه لازم است. به همین دلیل امروز ما بسیار هیجان‌زده هستیم که چارچوب امنیتی هوش مصنوعی (SAIF) را معرفی کنیم، یک چارچوب مفهومی برای سیستم‌های امن هوش مصنوعی.

چرا الان SAIF را معرفی می‌کنیم
SAIF تحت تاثیر بهترین روش‌های امنیتی — مانند بررسی، تست و کنترل زنجیره تامین — است که ما آنها را در توسعه نرم‌افزار اعمال کردیم، همان‌طور که درک ما از
مگاترند‌های امنیتی
و خطرات خاصی که به سیستم‌های هوش مصنوعی ویژه است ادغام شده است.

یک چارچوب در بین بخش‌های عمومی و خصوصی حیاتی است تا مطمئن شوید که افراد مسئول تکنولوژی که پیشرفت‌های هوش مصنوعی را پشتیبانی می‌کنند، از فناوری‌هایی که خطراتی را پشتیبانی می‌کند که وقتی مدل‌های هوش مصنوعی پیاده‌سازی می‌شوند، امن به صورت پیش‌فرض باشند. امروز گامی مهم است.

در طول سال‌ها در گوگل، ما به یک
رویکرد باز
و
همکاری‌ها
به سایبرامنی پیوسته‌ای خوش‌آمد به میان آورده‌ایم. این شامل ترکیب استخبارات در خط، تخصص و نوآوری با تعهد به به اشتراک گذاری اطلاعات تهدیدی با دیگران برای کمک به پاسخ به – و پیشگیری از – حملات سایبری. با توجه به این رویکرد، SAIF برای کمک به کاهش خطرات خاصی که سیستم‌های هوش مصنوعی مانند
دزدیدن مدل
،
سم‌زدایی داده‌های آموزش
، وارد کردن ورودی‌های خبیث از طریق
تزریق دستور
، و
استخراج اطلاعات محرمانه
در داده‌های آموزشی، طراحی شده است. چرا که قابلیت‌های هوش مصنوعی به طور فزاینده‌ای در محصولات در سراسر جهان یکپارچه می‌شوند، پایبندی به یک
چارچوب جسورانه و مسئولانه
حتی مهم‌تر است.

حال به SAIF و شش عنصر اصلی آن نگاهی بیاندازیم:
### 1. گسترش پایه‌های امنیتی قوی به اکوسیستم هوش مصنوعی
در برگرفتن توانایی‌های محافظتی سیستم‌های امن به طور پیش‌فرض و تجربه
ایجاد شده در دو دهه گذشته
برای حفاظت از سیستم‌های هوش مصنوعی، برنامه‌ها، و کاربران. در همین حال، توانیس بر سازمانی‌ها برای گام‌های پیشرفته در هوش مصنوعی و شروع به مقیاس‌پذیری و تطبیق محافظتی در بستر محیطی هوش مصنوعی و مدل‌های تهدیدی در حال تکامل است. به عنوان مثال، تکنیک‌های تزریق مانند
تزریق SQL
برای مدتی وجود داشته‌اند، و سازمان‌ها می‌توانند اقداماتی مانند تصفیه ورودی و محدود کردن را انطباق دهند تا بهتر در برابر حملاتی مانند
حملات تزریق دستور سریع
دفاع کنند.
### 2. گسترش تشخیص و واکنش برای جلب هوش هوش مصنوعی به دامنه تهدیدهای یک سازمان
زمان در تشخیص و واکنش به حوادث سایبری مربوط به هوش مصنوعی بسیار حیاتی است، و گسترش اطلاعان هوش تهدید و سایر قابلیت‌ها برای یک سازمان هر دو را بهبود می بخشد. برای سازمان‌ها، این شامل نظارت بر ورودی‌ها و خروجی‌های سیستم‌های تولیدی هوش مصنوعی برای شناسایی ناهنجاری‌ها و استفاده از
اطلاعات تهدید
برای پیش‌بینی حملات است. این تلاش معمولاً نیازمند همکاری با تیم‌های اعتماد و ایمنی، هوش تهدید، و تیم‌های مقابله با سوءاستفاده می‌باشد.
### 3. اتوماسیون دفاعی برای همگام شدن با تهدیدات قدیمی و جدید
سازماندهی‌های جدیدتر هوش مصنوعی می‌توانند مقیاس و سرعت تحرک برای پاسخ به حوادث امنیتی را بهبود بخشن. دشمنان
احتمالاً از هوش مصنوعی برای افزایش تأثیر خود استفاده خواهند کرد
، بنابراین اهمیت دارد که
از هوش مصنوعی و قابلیت‌های فعلی و آینده‌اش
برای ماندگار و با صرفه برای محافظت در برابر آنها استفاده شود.
### 4. هماهنگ کردن کنترل‌های سطح پلت فورم برای اطمینان از امنیت یکپارچه در سراسر سازمان
یکنواختی در کنار چارچوب‌های کنترلی می‌تواند به کاهش خطر هوش مصنوعی بپردازد و محافظت‌ها را در بسترهای و ابزارهای مختلف بسط دهد تا اطمینان حاصل شود که بهترین حفاظت‌ها برای تمامی برنامه‌های هوش مصنوعی در یک شیوه قابل مقیاس و صرفه‌جوی موجود است. در گوگل، این شامل گستراندن حفاظت‌های پیش‌فرض امنیتی به پلت فورم‌های هوش مصنوعی مانند
Vertex AI
و
Security AI Workbench
می‌شود، و کنترل‌ها و حفاظت‌ها را در چرخه توسعه نرم‌افزار جای می‌دهند. قابلیت‌هایی که به موارد کاربرد عمومی پاسخ می‌دهند، مانند
API Perspective
، می‌تواند کمک کند تا تمامی سازمان از حفاظت‌های هوش مصنوعی در جدترین وضعیت استفاده کند.
### 5. تطبیق کنترل‌ها برای تنظیم تسهیلات و ایجاد حلقه‌های بازخورد سریع‌تر برای پیاده‌سازی هوش مصنوعی
تست مداوم اجراها از طریق یادگیری مداوم می‌تواند تضمین کند که قابلیت‌های شناسایی و حفاظتی تغییرات محیط تهدیدی را پوشش می دهد با تکنیک‌هایی مانند یادگیری تقویتی مبتنی بر حادثه‌ها و بازخورد کاربر و مراحلی مانند به‌روزرسانی مجموعه داده‌های آموزشی، تنظیم مدل‌ها برای به پاسخگویی استراتژیک به حملات و اجازه دادن به نرم‌افزاری که برای ساختن مدل‌ها استفاده می‌شود، امنیت بیشتری در زمینه‌های مربوط به آن (مثلاً شناسایی رفتارهای غیرعادی) جاسازی شود. سازمان‌ها همچنین می‌توانند تمرینات
تیم قرمز
را برای بهبود اطمینان از امنیت محصولات و قابلیت‌های قدرت گرفته از هوش مصنوعی انجام دهند.
### 6. قرار دادن ریسک‌های سیستم‌های هوش مصنوعی در فرآیندهای تجاری اطراف
سرانگردانی آخرین به آخر از ارزیابی‌های ریسک مربوط به نحوه اینکه سازمان‌ها چگونه هوش مصنوعی را پیاده می‌کنند می‌تواند به تصمیمات کمک کند. این شامل ارزیابی ریسک ته به ته، مانند تاریخچه داده، اعتبار سنجی و نظارت بر رفتار عملیاتی برای این نوع از برنامه‌ها می‌شود. علاوه بر این، سازمان‌ها بایستی چک‌های خودکاری برای اعتبار عملکرد هوش مصنوعی ساختند.
### چرا ما یک جامعه امنیتی هوش مصنوعی برای همه را پشتیبانی می‌کنیم
ما طولانی‌اند که برای افزایش نرد مرزی ایمنی و کاهش خطر کلی فریم‌ورک‌های صنعتی را توسعه داده‌ایم و غالباً همکاری کرده‌ایم. ما با دیگران همکاری کرده‌ایم تا
چارچوب‌های سطح تامین سطوح برای مصنوعات نرم‌افزاری (SLSA)
را برای بهبود امان زنجیره تامین نرم‌افزار منتشر کنیم، و کار پیشروی که درباره مدل دسترسی
BeyondCorp
به
پیۀ اعتماد صفر
که امروزه استاندارد صنعتی می‌باشد باعث شده‌است تا آنچه را که از این و زحمات دیگر آموخته‌ایم، در این طول مدت موفق باشد، شما باید یک جامعه را ایجاد کنید تا از پشتیبانی و پیشرفت کار پشتیبان می‌کند. به همین دلیل هیجان زده هستیم که اولین گام های سفر ما برای ایجاد جامعه SAIF را برای همه اعلام کنیم.
### نحوه اجرای گوگل SAIF را
ما در حال حمایت و پیشبرد

منبع:
این مقاله در اصل در https://blog.google/technology/safety-security/introducing-googles-secure-ai-framework/ منتشر شده است.

معرفی تیم قرمز هوش مصنوعی گوگل

در این روزها، اطلاعاتی درباره تیم قرمز هوش مصنوعی گوگل برای نخستین بار منتشر شده است. این تیم توسط دانیل فابیان، رئیس تیم‌های قرمز گوگل، اداره می‌شود. گوگل اخیرا چهارچوب امنیتی هوش مصنوعی مسئولیت‌پذیر خود را معرفی کرده است که طراحی شده است تا به رفع خطراتی که بر روی سیستم‌های هوش مصنوعی وجود دارد بپردازد و استانداردهای امنیتی برای این فناوری را تعیین کند.

تعریف تیم قرمز هوش مصنوعی

تیم قرمز گوگل شامل یک گروه هکرها است که شبیه‌سازی حملات مختلف را انجام می‌دهند، از جمله از دولت‌ها و گروه‌های تهاجمی مداوم مطلع تا هکتیویست‌ها، جنایتکاران فردی یا حتی نمایندگان بد نیت. این عبارت از ارتش گرفته شده است و فعالیت‌هایی را توصیف می‌کند که یک تیم تعیین‌شده نقش دشمن (تیم «قرمز») در برابر تیم خودصحبت (تیم «خانگی») را ایفا می‌کند.

حملات مرسوم تیم قرمز بر روی سیستم‌های هوش مصنوعی

یکی از مسئولیت‌های کلیدی تیم قرمز هوش مصنوعی گوگل، تبدیل تحقیقات مربوط را به نحوه کار بر روی محصولات و امکانات واقعی که از هوش مصنوعی استفاده می‌کنند به منظور یادگیری درباره تأثیر آنها است. تمرینات ممکن است نتایجی در حوزه‌های امنیتی، حریم خصوصی و سوءمصرف به دست آورد. برای شناسایی این فرصت‌ها برای بهبود امنیت، ما از تکتیک‌ها، روش‌ها و رویه‌های مهاجمان (TTPs) برای آزمایش یک ردیف از دفاع‌های سیستمی استفاده می‌کنیم. در گزارش امروز، یک لیست از TTPs را که ما برای مهم‌ترین و واقع‌گرا تصور می‌کنیم برای مهاجمان جهانی و تمرینات تیم قرمز مناسب هستند، ارائه می‌دهیم. این تیم‌ها شامل حملات اخاذ، استخراج داده‌های آموزش، اضافه کردن درونی به مدل، مثال‌های تطاوعی، آلودگی داده و خروجی آن‌ها هستند.

درس‌های یادگرفته شده

ما از قبل نشانه‌های زوداندیشی را در سرمایه‌گذاری‌های خود در تخصص و قابلیت‌های هوش مصنوعی در تقلیدات مهاجمان تبدیل به موفقیت بسیاری دیده‌ایم. مثال‌های حمله، به عنوان مثال، آسیب‌پذیری‌ها و نقاط ضعف پتانسیلی را برجسته کرده‌اند که به پیش‌بینی برخی از حملاتی که اکنون بر سیستم‌های هوش مصنوعی می‌بینیم، کمک کرده‌اند. تیم‌های قرمز سنتی نقطه شروع خوبی هستند، اما حملات بر روی سیستم‌های هوش مصنوعی به سرعت پیچیده می‌شوند و از تخصص هوش مصنوعی بهره خواهند برد. رسیدگی به یافته‌های تیم قرمز ممکن است چالش‌برانگیز باشد و برخی از حملات پیچیده ممکن است راه‌حل‌های ساده نداشته باشند، بنابراین ما به سازمان‌ها توصیه می‌کنیم تیم قرمز را در جریان کاری خود جای دهند تا به تأمین امنیت و استانداردهای راهبردی برای همگان کمک کنند. از همه سازمان‌ها خواسته می‌شود تمرینات منظم تیم قرمز برگزار کنند تا به تأمین راه‌های هوش مصنوعی بحرانی در سیستم‌های عمومی بپردازند.

نظرات کارشناسی و نکات کلیدی

تیم قرمز هوش مصنوعی گوگل نقش مهمی را در امنیت سیستم‌های هوش مصنوعی ایفا می‌کند و این گزارش می‌تواند به دیگر سازمان‌ها کمک کند تا درکی از نحوه استفاده گوگل از این تیم حیاتی را جهت تأمین امنیت سیستم‌های هوش مصنوعی بیابند و از همه بخواهد تا به همکاری برای پیشبرد چهارچوب امنیتی هوش مصنوعی و ارتقای استانداردهای امنیتی برای همه، تشویق کند. این گزارش، توصیه می‌کند که هر سازمان تمرینات منظم تیم قرمز را برگزار کند تا به تأمین نصب‌های هوش مصنوعی بحرانی در سیستم‌های عمومی کمک کند.

نظر کارشناس:
تیم قرمز هوش مصنوعی گوگل نقش بسیار مهمی در امنیت سیستم‌های هوش مصنوعی ایفا می‌کند. استفاده از این تیم به عنوان مهاجمان متقابل باعث شناسایی ضعف‌ها و نقاط ضعف در سیستم‌های هوش مصنوعی می‌شود و به سازمان‌ها کمک می‌کند تا از حملات پتانسیلی پیشگیری کنند. توصیه می‌شود که همه سازمان‌ها تمرینات تیم قرمز را در برنامه‌های خود جای دهند تا به تأمین امنیت و استانداردهای راهبردی برای همه ارتقا دهند.

منبع:
این مقاله در اصل در https://blog.google/technology/safety-security/googles-ai-red-team-the-ethical-hackers-making-ai-safer/ منتشر شده است.