У Великій Британії запустили платформу для оцінювання безпеки ШІ
Британський Інститут безпеки ШІ (AISI), створений у листопаді 2023 року, запустив платформу Inspect, призначену для тестування та оцінки безпеки ШІ. Вона спростить оцінку ШІ для застосування в промислових, дослідницьких і наукових організаціях.
Набір інструментів Inspect, доступний за ліцензією з відкритим вихідним кодом, включно з ліцензією MIT, призначений для оцінювання певних можливостей моделей ШІ в різних сферах, зокрема й основних знань моделей і здатності міркувати, і вироблення оцінки на основі отриманих результатів.
За даними ресурсу TechCrunch, платформа Inspect складається з трьох основних компонентів: наборів даних, інструментів рішення та інструментів оцінки. Набори даних надають зразки для оціночних тестів. Інструменти рішення виконують роботу з проведення тестів. А інструменти оцінювання оцінюють результати і підсумовують бали тестів у метрики.
Компоненти Inspect можна доповнити за допомогою сторонніх пакетів, написаних на Python. "Ми сподіваємося, що глобальне співтовариство ШІ буде використовувати Inspect не тільки для проведення власних випробувань на безпеку моделей, а й для адаптації та розвитку платформи з відкритим вихідним кодом, щоб ми могли виробляти високоякісні оцінки за всіма напрямками", - заявив голова AISI Ян Хогарт (Ian Hogarth).
Платформа Inspect була представлена за кілька днів після того, як Національний інститут стандартів і технологій США (The National Institute of Standards and Technology, NIST) анонсував наприкінці квітня програму NIST GenAI, призначену для оцінювання різних технологій генеративного ШІ, включно з моделями, що генерують текст і зображення.
У квітні США і Велика Британія оголосили про партнерство, в рамках якого "уряди обмінюватимуться технічними знаннями, інформацією та талановитими фахівцями в галузі безпеки ШІ". У рамках співпраці в США буде створено інститут безпеки ШІ, який займеться оцінкою ризиків, пов'язаних із ШІ та генеративним ШІ.
Джерело: SmartPhone.ua
Обговорення новини
Попередні новини
Какое будущее у поисковых систем?00:28 13.05.2024Будущее поисковых систем обещает много инноваций и изменений. Вот некоторые из возможных развитий: Искусственный интеллект (ИИ) и машинное обучение: поисковые системы будут использовать ИИ для предоставления более точных и релевантных результатов...
Поява функцій ChatGPT в iOS 18 - питання майже вирішене11:21 11.05.2024Сфера систем штучного інтелекту з погляду практичного його використання та реалізації різного роду співпраці останнім часом сповнена подіями як більш-менш явними, так і прихованими.
Представлено першу домашню камеру Xiaomi з 8-мегапіксельним датчиком, HyperOS і ШІ01:04 09.05.2024Xiaomi зробила шанувальникам новітню пропозицію для домашньої безпеки - Xiaomi Smart Camera C700. Ця флагманська камера може похвалитися підтримкою роздільної здатності 4K і розумною обробкою зображення без підключення до хмари. Ціна становить 49 доларів.
