Якщо ви схожі на мене, ви могли помітити, що Штучний Інтелект (ШІ) став частиною повсякденного життя. Я прокидаюся щоранку і запитую свого розумного помічника про погоду. Нещодавно я подав заявку на отримання нової кредитної картки, і кредитний ліміт, ймовірно, було визначено моделлю машинного навчання. І коли я вводив попереднє речення, я отримав пропозицію вибору слова, що «ймовірно» могло б звучати краще, ніж «можливо», пропозиція на основі штучного інтелекту.
Як член команди відповідальних інновацій Google , я багато думаю про те, як працює штучний інтелект і як його відповідально розвивати. Нещодавно я спілкувався з Патріком Гейджем Келлі, керівником відділу стратегії досліджень команди довіри та безпеки Google, щоб дізнатися більше про розробку продуктів, які допомагають людям розпізнавати та розуміти штучний інтелект у повсякденному житті.
Як допомогти людям орієнтуватися у світі з такою кількістю ШІ?
Моя мета полягає в тому, щоб люди на базовому рівні знали, як працює штучний інтелект і як він впливає на їх життя. Системи штучного інтелекту можуть бути справді складними, але мета пояснення штучного інтелекту полягає не в тому, щоб змусити кожного стати програмістом і зрозуміти всі технічні деталі, а в тому, щоб переконатися, що люди розуміють ті частини, які для них важливі.
Коли штучний інтелект приймає рішення, яке впливає на людей (незалежно від того, рекомендує відео чи має право на позику), ми хочемо пояснити, як було прийнято це рішення. І ми не просто хочемо надати складне технічне пояснення, а радше інформацію, яка є значущою, корисною та допомагає людям діяти в разі потреби.
Ми також хочемо знайти найкращий час для пояснення ШІ. Наша мета — допомогти людям розвинути грамотність ШІ на ранньому етапі, зокрема в початковій та середній освіті. І коли люди використовують продукти, які покладаються на штучний інтелект (все, починаючи від онлайн-сервісів і закінчуючи медичними пристроями), ми хочемо надати людям багато шансів дізнатися про роль штучного інтелекту, а також про його переваги та обмеження. Наприклад, якщо людям на ранній стадії повідомити, які помилки можуть припуститися продукти на основі ШІ, вони будуть краще підготовлені до розуміння та виправлення ситуацій, які можуть виникнути.
Чи потрібно мені бути математиком або програмістом, щоб мати повне розуміння ШІ?
Ні! Гарною метафорою тут є фінансова грамотність. Хоча нам, можливо, не потрібно знати кожну деталь того, що пов’язано з підвищенням процентної ставки чи тонкощами фінансових ринків, важливо знати, як вони впливають на нас — від погашення кредитних карток до покупки житла чи сплати студентських позик. Так само пояснюваність штучного інтелекту полягає не в розумінні кожного технічного аспекту алгоритму машинного навчання, а в тому, як із ним взаємодіяти та як він впливає на наше повсякденне життя.
Як практикуючі AI — розробники, дизайнери, дослідники, студенти та інші — мають думати про пояснюваність AI?
Багато практиків роблять важливу роботу над пояснюваністю. Деякі зосереджуються на можливості інтерпретації, що полегшує ідентифікацію конкретних факторів, які впливають на рішення. Інші зосереджені на наданні «миттєвих пояснень» саме тоді, коли ШІ приймає рішення. Вони можуть бути корисними, особливо якщо їх ретельно спланувати. Однак системи ШІ часто настільки складні, що ми не можемо повністю покладатися на поточні пояснення. Просто занадто багато інформації, щоб упакувати її в одну мить. Навпаки, освіта та грамотність ШІ мають бути включені до всього шляху користувача та розвиватися безперервно протягом усього життя людини.
У більш загальному плані фахівці зі штучного інтелекту повинні думати про те, що пояснюваність штучного інтелекту є фундаментальною для проектування та розробки всього продукту. У Google ми використовуємо принципи ШІ , щоб керувати відповідальним розробкою технологій. Відповідно до принципу №4: «Будьте підзвітними людям», ми заохочуємо спеціалістів із штучного інтелекту думати про всі моменти та способи, якими вони можуть допомогти людям зрозуміти, як ШІ працює та приймає рішення.
Як ви та ваші співробітники працюєте над покращенням пояснень ШІ?
Ми розробляємо ресурси, які допомагають фахівцям з штучного інтелекту навчитися творчим способам запровадження пояснюваності штучного інтелекту в дизайн продукту. Наприклад, у довіднику PAIR ми запустили серію етичних прикладів , щоб допомогти фахівцям з штучного інтелекту продумати складні питання та відточити свої навички пояснення ШІ. Ми також проводимо такі фундаментальні дослідження, як ця стаття , щоб дізнатися більше про те, як люди сприймають ШІ як особу, яка приймає рішення, і які цінності вони хотіли б, щоб втілювали продукти на основі ШІ.
Ми дізналися, що багатьом фахівцям із штучного інтелекту потрібні конкретні приклади хороших пояснень штучного інтелекту, на яких вони можуть спиратися, тому зараз ми розробляємо набір інструментів візуального дизайну, орієнтований на історію, для пояснень вигаданої програми штучного інтелекту. Набір інструментів буде загальнодоступним, тож команди стартапів і технологічних компаній у всьому світі зможуть надавати перевагу поясненню у своїй роботі.
Я хочу дізнатися більше про можливість пояснення AI. З чого почати?
Цього лютого ми випустили урок прикладних цифрових навичок « Відкрийте для себе ШІ в повсякденному житті ». Це чудове місце для всіх, хто хоче дізнатися більше про те, як ми щодня взаємодіємо зі ШІ.
Бажаєте проконсультуватися чи спробувати щось з сервісів Google? Надсилайте свої запити на info@wiseit.com.ua або залиште повідомлення у чаті на сайті wiseit.com.ua – ми обов’язково зв’яжемось!