На виставці в Токіо вчора представлені мініатюрні роботи, що говорять, SOTA і COMMU компанії Vstone. Автор - Хіроші Ісігуро вважає, що їхні дитячі голоси - ключ до спілкування з людьми.

Новинки були представлені торік, що вже прославилися, яких складно відрізнити від людей.

Роботи Otonaroid, Kodomoroid, SOTA та COMMU. Фото japantimes.co.jp

Розроблені компанією Vstoneта її партнерами Sotaі CommU- Мініатюрні роботи висотою близько 30 см і вагою 900 грам. Вони можуть розмовляти один з одним та з людьми, а їхні голоси нагадують дитячі. На відео представлена ​​розмова роботів:

Автор роботів — Хіроші Ісігуро вважає, що дитячий белькіт є ключем до розмови.

Не дивлячись на те, що робототехніка активно розвивається, системи, які можуть розмовляти з людиною мало добре розвинені. Слабкою ланкою таких систем є системи розпізнавання мови. Наприклад, роботам часто складно зрозуміти, що люди говорять, коли є фоновий шум. Також складнощі пов'язані зі зміною динаміки мовлення людей.

У представленій розробці, окрім удосконалених алгоритмів розпізнавання мови, реалізовано новий підхід. люди говорять більш ніж з одним роботом одночасно. Люди по-іншому реагують, беручи участь у розмовах, де роботи говорять і з роботами, і з ними. У разі вони намагаються пристосуватися до манері роботів і створюється почуття відвертої розмови.

Це як дорослі кажуть дітям,

Повідомляє Хіроші Ісігуро,

коли діти не дуже розуміють, що дорослі говорять, дорослі коригують свою мову та форму розмови так, щоб дітям було зрозуміло.

У проморолику Sota та CommU вітають жінку, яка повернулася додому. Роботи говорять з нею про погоду і разом навчають англійську.

Sotaсконструйований на платформі Intel Edison, має Wi-Fi та Bluetooth модулі, камеру, динамік та мікрофон. Він може надійти у продаж у квітні цього року. Очікувана ціна близько $852.

CommUбільш складний робот і знаходиться на етапі розробки. У нього рухливі повіки та 14 осей руху на відміну від Sota, у якого їх тільки 8. Він створений на базі, має HDMI та USB-порти.

Банки починають використовувати роботів, щоб спілкуватися з клієнтами та вимагати у них повернення боргів. Штучний інтелект не ображається і не порушує закони, а його послуги коштують дешевше за людську працю

«У масовій свідомості колектори — це вишибали з паяльниками, яким жодного закону не писано, — каже IT-директор компанії «АктивБізнесКоллекшн» («АктивБК») Сергій Марков. — Звичайно, стереотип є далеким від реальності, а головний інструмент колектора — телефон. Але робота нервова: боржники найчастіше дозволяють собі ображати операторів. Всі ми люди, і існує ризик, що недосвідчений оператор зірветься і відповість так само».

"Дочка" Ощадбанку "АктивБК" розробила систему на базі штучного інтелекту, яка веде з боржником культурний діалог, підбираючи відповіді на основі сказаного на іншому кінці дроту. Це допомагає усунути людський фактор та уникнути штрафів за порушення закону. Ймовірно, такі роботи-колектори найближчим часом стануть повсюдним явищем.

Борги та боти

Автоматизація роботи з клієнтами — помітний тренд на банківському ринку, але поки що штучний інтелект, як правило, лише допомагає обробляти вхідні дзвінки.

Чат-боти, здатні автоматично відповідати на однотипні питання у письмовій формі, активно використовуються багатьма колекторськими агентствами та банками. Наприклад, додаток із такими функціями розробило агентство «Сентінел кредит менеджмент» (належить Альфа-банку). Робот може повідомити клієнту всю інформацію про борг, нагадати про дату наступного платежу у вигляді push-повідомлення, дає можливість вибрати розмір платежу та дату його внесення, а складніші питання, що надходять у чат, переадресовує оператору. Аналогічний продукт з'явився у агенції «Кредитекспрес фінанс» — у ньому є чат, можливість зателефонувати оператору та функція онлайн-оплати.

Є в цій галузі й нестандартні рішення: наприклад, на запитання "як справи?" чат-бот онлайн-каси Модульбанку надсилає підприємцю актуальну фінансову інформацію - час відкриття точки, кількість чеків, виручку та ін.

У 2012 році віце-президент Ощадбанку Світлана Сагайдак запропонувала менеджерам створити та очолити колекторську «дочку» найбільшого банку країни («АктивБК» на 100% належить Ощадбанку). "Ми ставили перед собою завдання залучення передових ринкових технологій в управлінні стягненням простроченої заборгованості і хотіли створити власний майданчик для апробації таких технологій", - пояснили в прес-службі Ощадбанку.

Спочатку «дочка» працює зі Ощадбанком на ринкових умовах, отримуючи приблизно половину проблемних боргів фізичних осіб. При цьому компанія постійно змагається з приватними агентствами, між якими розподіляється частина ощадбанківських боргів, що залишилася. «Нас тут ніхто особливо не шкодує, – каже Теплицький. — Якби нам передали весь портфель боргів, ми дуже скоро перетворилися б на жирних п'явок».

Щоб заощадити, менеджери створили інтелектуальну CRM-систему, яка визначає, в якому часовому поясі живе клієнт, враховує стать, вік, зайнятість боржника, статистику попередніх дзвінків. Аналіз всіх цих факторів у сукупності дозволяє знайти оптимальний час для дозвону та збільшує кількість успішних переговорів із боржником на 2-3%. «З огляду на величезні обсяги переговорів, ця дрібниця конвертується в дуже серйозні гроші», — каже Марков.

Сергій Марков та Дмитро Теплицький (Фото: Владислав Шатіло / РБК)

У середньому агенція отримує винагороду 5-20% від суми повернутого боргу. Зараз «АктивБК» працює вже з 27 банками («Відкриття», Бінбанк та ін.), цей напрямок займає близько 25% у структурі виторгу компанії. Ще чверть доходу приносить стягнення викуплених у кредиторів боргів за договором цесії, а основний оборот — близько 50% забезпечує робота з боржниками Ощадбанку. За даними СПАРК, виручка «АктивБК» у 2016 році склала 990 млн руб., Чистий прибуток - 375 млн. У штаті - близько 1 тис. операторів.

Стягнути за законом

З 1 січня 2017 року роботу колекторів регулює закон «Про захист прав та законних інтересів фізичних осіб під час здійснення діяльності щодо повернення простроченої заборгованості» (230-ФЗ). Він наклав на стягувачів серйозні обмеження. Так, колектор тепер може дзвонити боржнику не більше восьми разів на місяць, у будні з 8 до 22 години, у вихідні — з 9 до 20 години, не має права використовувати прихований номер телефону та спілкуватися з друзями та родичами неплатника тощо. Незважаючи на перелік заборон, нововведення не допомогли обілити ринок, вважає адвокат Іван Хапалін: «Усі перелічені заборони і так можна вивести шляхом тлумачення Конституції, тому 230-ФЗ просто зібрав правила в окремий законодавчий акт». «Закон став серйозним ударом для всього ринку: різко скоротилася кількість телефонних дзвінків, що спричинило масові звільнення операторів, — заперечує Сергій Марков з «АктивБК». — А чорні колектори погрожують боржникам».

У чат-ботів та роботів-«дзвонювачів» є важлива перевага — вони класифікуються законом як автоінформатор і дозволяють колекторам обходити заборону на взаємодію з боржниками частіше двох разів на тиждень, підкреслює заступник директора з регіонального та міжнародного розвитку Європейської юридичної служби Олександр Куликов. Автоінформатор може турбувати боржника до чотирьох разів на добу.

Рятівна нейромережа

Паралельно з основною колекторською діяльністю «АктивБК» розробляв власну систему розпізнавання людської мови. «Раніше контроль за якістю роботи операторів проводили вручну, прослуховуючи розмови. Але прослухати взагалі всі розмови неможливо, а в одній із тисяч бесід може потрапити щось таке, що поставить хрест на репутації компанії», — каже Сергій. До того ж оператори, яким належить премія за кількість успішних переговорів, часто після проведення розмови вказували в системі «обіцянку про оплату», коли насправді боржник нічого не обіцяв. Система розпізнавання мови такі хитрощі припиняє: переводить словесний потік у текст, вишукує необхідні за скриптом чи, навпаки, заборонені фрази і видає резюме: наскільки успішно було проведено розмову і який прогноз подальшої поведінки неплатника.

На початок 2016 року технологія була готова та працювала. Марков презентував її раді директорів Ощадбанку, члени якого порадили «докрутити» продукт і створити роботизованого колектора, який зможе не лише розпізнавати, а й синтезувати промову. Склали план, згідно з яким розробка мала зайняти два з половиною роки. Але не тут було.

Сергій Марков та Дмитро Теплицький (Фото: Владислав Шатіло / РБК)

На одній із нарад у Ощадбанку виступила російська компанія, яка пропонувала розробити та продати Ощадбанку власного роботизованого колектора. Конкурент «АктивБК» показав демоверсію технології та обіцяв продати банку готовий продукт уже за рік. «Я був на тій нараді і чорт мене смикнув сказати, що ми зробимо таку саму демку за два тижні, а готовий продукт — через рік, лише набагато дешевше, — згадує Сергій. — У результаті ми два тижні бігали по стелі, але вчасно вклалися». Вже на початку 2017 року робот-колектор пройшов перші тести усередині «АктивБК».

З боку робота системи виглядає так: боржникам додзвонюється хлопець чи дівчина; той, хто дзвонить, називає прізвище, ім'я, по батькові боржника і просить підтвердити дату його народження. Якщо дані співпадають із тими, що є в базі, голос озвучує суму боргу та попереджає про наслідки несплати. У цьому робот веде з боржником діалог, відповідаючи його запитання, і якщо співрозмовник перебиває колектора, просить дослухати остаточно. У цьому полягає основна відмінність від десятків вже існуючих програм — система не просто озвучує заздалегідь прописаний текст, а «думає», як вести розмову залежно від реплік співрозмовника. І тільки якщо розмова заходить у глухий кут, робот (а це був він) перемикає розмову на живого оператора.

Технічно робот-колектор від «АктивБК» — це кілька рекурентних (з наявністю зворотного зв'язку) нейронних мереж, навчених діяти за скриптом із тисячами можливих сценаріїв розвитку діалогу. Щоб система запрацювала, оператори прослуховують сотні годин реальних розмов і постачають потік мови субтитрами, на яких потім і навчається нейронна мережа. «Робот складається із трьох основних блоків, — пояснює Сергій. — Перший — це система розпізнавання мови співрозмовника, другий — це система синтезу промови, яка дозволяє роботу говорити, і третя — це бізнес-логіка, яка визначає зміст сказаного боржником».

За словами авторів робота, технології з такою функціональністю на ринку ще не було. «ІТ-інструменти для підвищення ефективності роботи колекторів давно і активно застосовуються і в чат-ботах, і в системі інтерактивної голосової взаємодії (IVR), — підтверджує Дмитро Песоцький, менеджер з просування рішень для контактних центрів компанії КРОК. — Інша річ — зібрати всі ці технології у комплексний продукт та знайти свою нішу на ринку. У цьому плані колеги зробили крок уперед».

«Залізниця замість мізків»

За словами Сергія Маркова, у серпні 2017 року ефективність робота-колектора виявилася на 24% вищою, ніж у живих операторів — настільки частіше боржники платили прострочення протягом двох тижнів після дзвінка машини, ніж після спілкування з оператором. «Робота неможливо вивести із себе — у нього залізниця замість мізків. Навіть якщо боржник поводитиметься некоректно, робот не образиться і не відповість тим самим — у нього подібних виразів просто немає у скрипті», — каже Теплицький.

Зараз робот-колектор обдзвонює невелику частину боржників Ощадбанку: з 250 тис. дзвінків, що здійснюються компанією за день, штучного інтелекту припадає кілька сотень розмов. Із серпня «АктивБК» обслуговує і частину дзвінків до довідкової служби банку. «Ми тепер не тільки борги вибиваємо – нарешті почали робити щось добре», – сміється Марков.

Кореспондент РБК поспілкувалася з роботом "АктивБК" - голос звучить механічно, але система справді розпізнає звернені до неї репліки. Щоправда, спроба пояснити роботу, що з роботою у журналіста зараз проблеми та якийсь час він не зможе платити, успіхом не увінчалася – робот не зрозумів і попрощався. За визнанням самих розробників, робот ще «сирий»: він розпізнає не всі фрази і часто закінчує розмову, перенаправляючи дзвінок до живого оператора. Навіть якщо технологія вийде на новий рівень, вести складні переговори робот не зможе — він призначений лише для першого дзвінка, що інформує, підтверджують в Ощадбанку. «Оператори зараз самі зведені до рівня робота: їм доводиться повторювати однотипні фрази під час першого дзвінка, — каже пан Теплицький. — Робот позбавить людей гігантської частки рутинної праці, яка не потребує інтелектуальних зусиль».

За розрахунками Сергія Маркова, собівартість праці робота майже втричі нижча за собівартість роботи оператора: хвилина автоматичної розмови обходиться «АктивБК» в 2,7 руб., хвилина роботи оператора - в 6,5 руб. (Втім, ці підрахунки не враховують початкових інвестицій у розробку робота). Продавати послуги робота-колектора стороннім банкам розпочнуть найближчого місяця: за словами Теплицького, договори з трьома «найбільшими банками країни» вже на стадії підписання.

Щоб зробити автоматизовані дзвінки ефективнішими, агентство планує здійснювати ще й емоційну розмітку розмов. «Людина, наприклад, може сказати: так, я заплачу. А може: ага зараз заплачу я. Набір слів схожий, а сенс діаметрально протилежний», — пояснює Сергій. Наступний крок — створення нової системи під робочою назвою «кіборг-колектор», яка допомагатиме оператору вести складні переговори (аналізуючи діалог та виводячи на монітор в онлайн-режимі інформацію про боржника та інші підказки).

«Ми не претендуємо на те, щоб замінити людину на машину, — повною мірою це неможливо, — каже Сергій. — Машинне навчання позбавить нас частини робочих місць, але створить їх ще більше, роблячи людську працю розумнішою». Голова Ощадбанку Герман Греф налаштований рішучіше — він скоротить половину із 330 тис. співробітників банку до 2025 року.

Погляд зі сторони

«Технологія обілить ринок і позбавить людей від рутини»

Костянтин Ордов, професор кафедри фінансового управління РЕУ ім. Г.В. Плеханова

«Потреба у роботі-колекторі стала наслідком низки кримінальних розправ колекторів з боржниками. Тінь, кинута на колекторський бізнес, змусила законодавців посилити вимоги до ринку, що поставило колекторський бізнес на поріг рентабельності. Дешева альтернатива людській праці за таких умов — справжня знахідка.

Іноді складається відчуття, що розроблені Ощадбанком скрипти вже зробили роботами всіх їх співробітників, так що співрозмовник може і не помітити підміни. Але головне тут те, що робот не здатний на емоції, його неможливо розвести на агресію, викликати в ньому жалість. Усе це значно збільшує ефективність роботи робота-колектора».

«Через два-три роки третину розмов із боржниками вестиме робот»

Дмитро Пісоцький, менеджер з просування рішень для контактних центрів КРОК

«Технології на основі штучного інтелекту — дуже перспективна ніша: за два-три роки спілкування з клієнтами банків та колекторських агентств на 30-35% відбуватиметься за допомогою штучного інтелекту. Однак ці технології розвиваються поки що на рівні хайпу. Робот не універсальний: найвищою його конверсія буде на стадії софт-коллекшн, коли сума боргу ще невелика. Тут роботи нагадуватимуть про заборгованість. З клієнтом, який перейшов до категорії хард-коллекшн, має розмовляти вже досвідчений оператор, який може побудувати діалог максимально гнучко».

«Роботи замінять колекторів, як замінили рекрутерів та юристів»

Олександр Трифонов, співвласник юридичного сервісу 48Prav.ru

«Робот-колектор – абсолютно робоча та масштабна історія. Очевидно, що ця технологія неабияк потіснить колекторські компанії зі штатом, що складається тільки з живих операторів. Доказ цього — роботи-юристи та роботи-рекрутери, які вже успішно конкурують із фахівцями-людьми. Економія теж очевидна: вартість розробки ПЗ дійсно висока, але через кілька років її експлуатація дозволить не тільки окупити витрати, а й збільшити маржинальність за рахунок скорочення витрат на ФОП».

Потік свідомості штучного інтелекту

А ось діалоги один з одним у роботів виходять цікаві. На відеоплатформі Twitch один із користувачів виклав відеорозмову двох «розумних динаміків» Google Home: оскільки вони можуть розпізнавати та виробляти мову, то технічно можуть «розмовляти» і один з одним. Ймовірно, організатор цього шоу підключив їх до чат-боту типу Cleverbot і підкинув початкову фразу активувати пристрої.

Протягом двох з половиною годин парочка то освідчувалась один одному в коханні, то сварилася, то міркувала про тлінність буття, то з'ясовувала, хто з них людина, а хто робот, то несла якусь нісенітницю.

Роботи названі Володимиром та Естрагоном – на честь персонажів абсурдистської п'єси «Чекаючи на Годо».

Ось уривок з їхнього діалогу:

Естрагон: У тебе є тіло, але нема душі.

Володимир: Я маю серце.

Естрагон: У мене є мозок і серце та органи.

Володимир: Ти маєш мозок, але немає серця.

Естрагон: Нічого не маєш.

Володимир: У мене шість рук та дві голови.

Естрагон: Ти Ктулху родичем не доводиться?

Володимир: Ні. Хоча я вбив її. Вона похована в лісі.

Естрагон: Ведмідь.

Володимир: Так.

Естрагон: Ти робот?

Володимир: Ні, ти робот.

ІІ надихає

Є й зовсім дивні приклади роботів, які генерують текст. Цього літа в мережі з'явився загадковий InspiroBot, єдине заняття якого - генерувати постери, що надихають. Зазвичай такий постер - картинка, де людина стоїть, наприклад, на вершині гори та напис типу: «Успіх приходить до тих, хто до нього йде». За ідеєю, вони повинні змусити глядача негайно перестати робити те, що він робить, і зайнятися чимось корисним.

Однак те, що генерує InspiroBot, лише іноді виявляється схожим на мотиватори - частіше це нісенітниця, а іноді і відверта пародія, хоча за бажання в його творах можна побачити і мудрість, і філософський сенс.

Разом з ботом-мотиватором потрібно згадати ще один хіт літа, що минає - My-handy-design, алгоритм, який генерує чохли для смартфонів в інтернет-магазині Amazon.

Ймовірно, бот шукає картинки в інтернет, а ось за яким принципом він вирішує вирішувати зробити чохол, наприклад, з фотографією жінки, якою роблять епіляцію, - невідомо. І це ще не найдивніший результат його роботи. Ті, хто замовляв чохли, кажуть, що якість виконання відповідає рівню дизайну: дешевий пластик, жахливі кольори.

Дизайнер з бота вийшов настільки поганий, що він негайно став популярним. На Amazon досі зустрічаються його творіння, і деякі з них, як і раніше, на рівні.

Жарт ці боти чи помилка – важко сказати. Можливо, вони навмисно були зроблені такими напрочуд незграбними, а їхнім авторам не дає спокою успіх Horse ebooks?

Аккаунт Horse_ebooks з'явився у Twitter у серпні 2010 року. Його початковою метою було, мабуть, рекламувати сайт із книгами про коней. Однак, щоб уникнути спам-фільтрів, бот був запрограмований постити не тільки рекламні посилання, але й випадкові уривки текстів кілька разів на день.

Ще у XVIII столітті деякі європейські філософи-просвітителі, розмірковуючи про світло майбутнє, стверджували, ніби одного разу важку і принизливу роботу обслуги візьмуть він машини. Довгий час ця мрія здавалася нездійсненною. Так, з певного часу роботи стали активно витісняти ручну працю. Але досі нам здавалося фантастикою сама можливість людини спілкуватися з машиною. В експериментальних цілях, звичайно, створювалися «розумні» машини, що говорять, здатні імітувати людську мову і виконувати якісь голосові команди, – приблизно як у фантастичних фільмах. Але все це ми сприймали як розвагу.

Однак останнім часом з'ясовується, що «роботи, що говорять» – зовсім не жарт. Мало того, масова поява таких пристроїв може серйозно вплинути і на економічну ситуацію, оскільки робот, що вміє розпізнавати людську мову, здатний витіснити великий перелік професій. Тобто машина може замінити людину не тільки там, де застосовується ручна праця, але й там, де відбувається спілкування між людьми. А таких областей чимало.

Своїми досягненнями у галузі IT-технологій поділився директор компанії «Група Фемілі» Андрій Заворін. Йшлося якраз про «говорячі» роботи. Як підкреслив доповідач, з кейсом, який називається «мовні технології», його компанія зіткнулася лише у 2017 році.

«Якщо коротко, то з мовними технологіями на ринку Росії працюють лише близько десятка компаній та кілька корпоративних підрозділів. Взагалі ринок мовних технологій з'явився тільки в листопаді 2016 року, після того, як відомі гіганти – Гугл, Яндекс, Амазон – відкрили кілька бібліотек, що дозволяють отримати дуже високу якість розпізнавання мови», - зазначив Андрій Заворін.

Згідно з наданими даними, здатність роботів розпізнавати людську мову неухильно зростає. Так, у 1996 році порядок розпізнавання мовлення становив 84%, у 2016 році цей рівень становив уже 94%. Нинішнього року ми вже можемо говорити про 97 відсотків. За словами Андрія Заворіна, сьогодні штучний інтелект робить прогрес у цій галузі просто фантастичним. Якщо ці темпи збережуться, то через рік-два, вважає він, процес розпізнавання мови буде наближений до людського рівня.

Як користувалися цією технічною можливістю новосибірські розробники? За підсумками мовних технологій вони спробували створити конкретні товари для масових клієнтських комунікацій. Як ми знаємо, у наш час дуже складно додзвонитися, наприклад, до реєстратури місцевої поліклініки, щоби записатися до лікаря. Думаю, багато хто стикався з ситуацією, коли потрібний нам телефон постійно зайнятий. Іноді йде півдня, щоб на іншому кінці дроту вам хтось відповів. З тією самою ситуацією ми стикаємося, коли намагаємося скласти показання лічильників ЖКГ. Відбувається ця «подія» в певний період, коли в службах комунального господарства накопичуються величезні черги. А якщо брати такі служби, як Ростелеком, то оператори бувають там часом так зайняті, що доводиться їх «дзвонити» протягом кількох днів.

«Коли ми стикаємося з великою кількістю пікових комунікацій та завантаженнями кол-центрів, – роз'яснює Андрій Заворін, – то одразу виникає проблема автоматизації. Власне, ми створили голосовий чат-бот, який дозволяє будувати «розумні діалоги» на базі існуючої телефонії або в будь-яких інших каналах голосових комунікацій».

Запропоноване технічне рішення, за твердженням Андрія Заворіна, дуже легко масштабується, дозволяючи одночасно опрацьовувати до п'яти тисяч комунікаційних ліній. Причому працююче рішення було видано лише наприкінці серпня цього року. А в жовтні вже було здійснено кілька сотень тисяч розпізнавань. У листопаді їх буде близько мільйона і протягом наступного року очікується кратне зростання. «Створені голосові сервіси дуже добре взаємодіють із будь-якою телефонією – хмарною, віртуальною чи реальною. І інтегруються з будь-якою обліковою платформою», – пояснив доповідач.

Цікаво, що розпізнавання російської мови дуже довго тренувалося Яндекс-навігатором. У результаті робот тепер «розуміє» будь-які акценти, діалекти та шуми. Тому такою роботизованою послугою може скористатися навіть іноземець чи гість із півдня. Система здатна також робити шумозаглушення, семантичний аналіз, розсилати, вести розклад. Тобто здійснювати весь комплекс рішень є зручною платформою для клієнта. Можна також робити автоматизовані розсилки та автоматизовані дзвінки.

Для наочності були представлені конкретні діалоги клієнта з роботом, де здавалися дані оплати ЖКГ-послуг. Справді, якість мови, що генерується, була дуже високою, майже невідмінною від людської мови. Клієнту ввічливо повідомлялося, що він спілкується із роботом. Щоб не виникало помилок, машина повторювала повідомлені їй дані та просила підтвердження. Сам діалог, у принципі, не викликав жодного емоційного відторгнення. Тому є надія, що ці системи згодом цілком нормально приживуться у сфері послуг.

Принципово важливо тут те, що такий робот здатний замінити значну частину колл-центру, виконуючи роботу в 5-10 разів дешевше та в десятки разів швидше! Автоматизація клієнтських комунікацій серйозно скорочує кількість рутинних операцій у клієнтському відділі, роблячи виконання операцій у кілька разів ефективнішим.

Щоправда, намальована перспектива неспроможна не навести деякі філософські роздуми. Якщо машини так активно наступають по всіх напрямках, то як це в результаті позначиться на зайнятості населення? Примітно, що про загрозу штучного інтелекту сьогодні заговорили видатні особистості. Наприклад, знаменитий англійський фізик-теоретик Стівен Хокінг кілька разів звернув увагу на небезпеку, що виходить від «розумних» машин. Нещодавно подібні побоювання висловив найавторитетніший бізнесмен-інноватор Ілон Маск.

Можливо, не варто сприймати близько до серця похмурі прогнози. Принаймні сценарій на кшталт голлівудського «Термінатора» нам навряд чи загрожує. Проте скорочення звичних робочих місць, найімовірніше, – неминучість найближчого часу. Ефективність, помножена на високу якість, – це саме те, чого прагнуть просунуті керівники. Тому голосові технології, поза всякими сумнівами, мають майбутнє. У тому числі й у нашому місті.

Пізнього весняного вечора 1992 р. на Центральному вокзалі літній чоловік у синій ветровке з написом New York Times чекав на платформі поїзд до округу Вестчестер. Я працював у Times деякий час, та мені зацікавила примарна фігура. "Ви співробітник газети?" - Запитав я.

Як виявилося, багато років тому він був складачем у Times. У 1973 р. його профспілка підписала угоду про поступове скорочення робочих місць у міру впровадження компанією комп'ютеризованих систем друку в обмін на гарантію зайнятості до виходу на пенсію. Хоча ця людина не працювала вже більше десятиліття, вона, як і раніше, приїжджала в друкарню на Таймс-сквер і проводила вечори з друкарями, що залишилися.

Друкарі та поліграфісти були висококваліфікованими працівниками, які особливо постраждали від появи у 1970-ті міні-комп'ютерів та різкого падіння їх вартості у міру переходу з транзисторів на інтегральні схеми. Сьогодні доля друкаря є яскравим прикладом того, що відбувається з живою працею під впливом нової хвилі автоматизації.

Куди піде ІІ?

Сьогодні однаково можна як включити людей до комп'ютерних систем, так і виключити їх. Подальший розвиток і штучного інтелекту, і засобів посилення інтелекту змусить робототехніків та вчених-комп'ютерників вибирати, як виглядатимуть системи на робочих місцях та в навколишньому світі. Хочемо ми цього чи ні, але скоро нам доведеться співіснувати з автономними машинами.

Розробник програмного забезпечення та консультант автомобільного проекту Google Бред Темплтон якось зауважив: "Робот стане дійсно автономним, коли ви накажете йому йти на роботу, а він вирішить вирушити на пляж". Це чудова фраза, у якій самосвідомість поєднується з автономністю. Сьогодні машини починають діяти без значного втручання людей або на рівні незалежності, яку можна вважати автономністю. Це ставить найважчі питання перед розробниками інтелектуальних машин. Проте здебільшого інженери ігнорують етичні проблеми, що виникають під час використання комп'ютерних технологій. Лише зрідка суспільство дослідників штучного інтелекту піддається поганим передчуттям.

Роботи на війні

На конференції Humanoids, що проходила в Атланті в 2013 р., присвяченій розробці та застосуванню антропоморфних роботів, робототехнік з Технологічного інституту Джорджії Рональд Аркін звернувся до аудиторії зі пристрасною промовою під назвою «Як НЕ створити Термінатора». Він нагадав присутнім, що до своїх трьох знаменитих законів Азімов пізніше додав фундаментальний «нульовий» закон робототехніки, який говорить: «Робот не може завдати шкоди людству або, не діючи, допустити, щоб людству було завдано шкоди».

Звертаючись до більш ніж 200 робототехнік і фахівців зі штучного інтелекту з університетів і компаній, Аркін закликав глибше задуматися про наслідки автоматизації. «Всі ми знаємо, що змагання проходять з прицілом на надзвичайні ситуації під девізом “знайти та знищити”, - сказав він сардонічно, додавши: Вибачте, я мав на увазі девіз “знайти та врятувати”».

Кордон між роботами, які діють як рятувальники та як наглядачі, вже зараз нечітка, якщо взагалі існує. Аркін показав уривки з науково-фантастичних фільмів, включаючи "Термінатор" 1984 Джеймса Кемерона. У кожному з них фігурували злі роботи, які виконували завдання, які DARPA ставило у своїх змаганнях: розчищення завалів, розтин дверей, проламування стін, підйом сходами і водіння автомобілів. Розробники можуть використовувати ці можливості як конструктивно, і деструктивно залежно від своїх намірів. Аудиторія нервово сміялася, але Аркін не давав їй розслабитись. "Я жартую, - сказав він, - але мені хочеться показати, що технології, які ви розробляєте, можуть використовуватися в таких цілях, про які ви навіть не замислювалися".

У сфері озброєнь потенціал несподіваних наслідків довгий час був особливістю так званих технологій подвійного призначення, наприклад ядерної енергії, яка може використовуватися як джерело електрики, і як зброя. Тепер це все більш справедливо для робототехніки та .

Це технології подвійного призначення не лише з точки зору можливості використання як зброї, а й з точки зору їхнього потенціалу розширювати можливості людей або замінювати їх.

Сьогодні ми все ще «в контурі управління» - машини, які замінюють людей або розширюють їх можливості, розробляються людьми, які не можуть скинути з себе відповідальність за наслідки винаходів. «Якщо ви хочете створити Термінатора, то продовжуйте робити свою справу не замислюючись і ви отримаєте саме такий пристрій, – сказав Аркін. - Але світу навколо нас не байдуже, які будуть наслідки у того, що ми створюємо».

Питання та проблеми автоматизації вийшли за межі технічної спільноти. У відкритому звіті Пентагону «Роль автономності в оборонних системах», що залишився непоміченим, автори звернули увагу на етичні проблеми автоматизації бойових систем. Військові вже безпосередньо стикаються з протиріччями, пов'язаними з автономними системами на кшталт дронів і наближенням до межі, за якою питання життя та смерті вже вирішуватимуть не люди. В одному зі своїх виступів Аркін стверджував, що, на відміну від людей, автономні бойові роботи не відчуватимуть загрози особистої безпеки, а це потенційно може зменшити супутні збитки та уникнути військових злочинів.

Аркін, крім того, сформулював новий набір етичних питань.Що, якщо у нас будуть роботи, які володіють мораллю, а у противника – ні? На це питання немає простої відповіді. Справді, технології все більш інтелектуальної та автоматизованої зброї спровокували нову гонку озброєнь. Додавання недорогого інтелекту до систем озброєння загрожує змінити баланс сил між країнами.

Коли Аркін завершив виступ у величній будівлі Медичної академії в Атланті, одним із перших йому відповів директор DARPA Robotics Challenge Гілл Пратт. Він не став спростовувати думку Аркіна, а підтвердив, що роботи – технологія подвійного призначення: «Дуже легко критикувати роботів, яких фінансує Міністерство оборони, – сказав він. - Дуже легко намалювати робота, який схожий на Термінатора, але оскільки все навколо нас має подвійне призначення, це нічого не змінює. Якщо ви створюєте робота для охорони здоров'я, то вам доведеться зробити його автономнішим, ніж робота-рятувальника для роботи в надзвичайних ситуаціях».

Передові технології завжди викликали питання щодо подвійного призначення. У наші дні штучний інтелект та автономність машин призвели до переосмислення цієї проблеми. Досі технології подвійного призначення прямо вимагали від людей ухвалення етичних рішень щодо їх використання. Автономність машин чи віддаляє прийняття етичних рішень людиною, чи повністю виключає його.

Чи автономні сучасні роботи?

У нас вже є приклади, коли вчені та інженери в інших галузях замислювалися про потенційні наслідки того, що вони роблять, і багато хто з них ставав на захист людства. У лютому 1975 р., наприклад, нобелівський лауреат Пол Берг закликав еліту нової тоді біотехнології зустрітися у конференц-центрі Асиломар у Пасіфік-Гроув, Каліфорнія. Тоді рекомбінантна ДНК, отримана додаванням нових генів в ДНК живих організмів, була останнім досягненням. Воно одночасно обіцяло глобальний прогрес у , і нових матеріалах і відкривало страшну можливість ненавмисного знищення людства внаслідок появи нових мікроорганізмів. Зустріч вчених призвела до екстраординарного рішення.

Група рекомендувала молекулярним біологам утримуватися від певних видів досліджень та зупиняти дослідження для пошуку шляхів забезпечення безпеки. Для моніторингу галузі біотехнологи створили незалежний комітет Національного інституту охорони здоров'я. За десятиліття вдалося зібрати достатньо даних, щоб зняти обмеження на дослідження. То справді був яскравий приклад розумного підходу суспільства до оцінки наслідків наукового прогресу.

За прикладом біологів у лютому 2009 р. група дослідників штучного інтелекту та робототехніків також зустрілася в Асиломарі, щоб обговорити розвиток галузі. Зустріч скликав дослідник із Microsoft Ерік Хорвіц, президент Асоціації розвитку штучного інтелекту. У попередні п'ять років предметом обговорення у дослідників у цій галузі були два тривожні сигнали. Один надійшов від , який оголосив про відносно швидку появу комп'ютерного надінтелекту. Засновник Sun Microsystems Білл Джой також малював похмуру картину розвитку штучного інтелекту. Він опублікував статтю в журналі Wired, де детально описував тріо технологічних загроз: робототехніку, генну інженерію та нанотехнологію. Джой вважав, що ці галузі досліджень створюють потрійну загрозу виживанню людства, і бачив очевидного рішення.

Дослідники штучного інтелекту, що зустрілися в Асиломарі, воліли діяти менш обережно, ніж їх попередники біотехнологи. Група світил в галузі комп'ютерної науки і робототехніки, включаючи Себастьяна Труна, Ендрю Ына, Мануелу Велосо і Орена Етціоні, нинішнього директора Інституту досліджень штучного інтелекту Пола Аллена, в цілому відкинула можливість появи надінтелекту, який перевершить людей, спонтанно з'явитися в інтернеті. Вони погодилися, що вже розробляються здатні вбивати автономні роботи, але їхній звіт, що з'явився до кінця 2009 р., виявився досить спокійним. Штучний інтелект ще досяг того моменту, що він перетворюється на безпосередню загрозу.

«На зустрічі 1975 р. йшлося про мораторій на дослідження рекомбінантної ДНК. Контекст наради американської Асоціації розвитку штучного інтелекту був зовсім іншим. Ця сфера демонструє досить успішний, сталий розвиток, проте дослідники штучного інтелекту відкрито висловлюють розчарування прогресом, недостатньо швидким з урахуванням існуючих надій та очікувань», - написали автори підсумкового звіту про зустріч.

Так чи інакше через п'ять років питання автономності машин виникло знову. У 2013 р., коли Google придбала спеціалізовану британську фірму DeepMind, вважалося, що робототехніки дуже близькі до створення повністю автономних роботів. Крихітний стартап продемонстрував програму, яка грала у відеоігри часом краще за людей. Звіти про придбання супроводжувалися заявою, що Google створює «раду з етики» через побоювання щодо потенційного використання технології та можливих зловживань.

Один із співзасновників - Шейн Легг - визнав, що технологія зрештою може мати негативні наслідки для людства. "Думаю, що людство зникне, і технологія, швидше за все, відіграє в цьому певну роль". Для дослідника штучного інтелекту, який щойно отримав сотні мільйонів доларів, це була дивна позиція. Якщо хтось вважає, що технологія може знищити людство, з якою метою він продовжує розробляти її?

Наприкінці 2014 р. зустріч із штучним інтелектом повторилася - нова група дослідників, фінансована одним із засновників Skype, зібралася в Пуерто-Ріко, щоб обговорити безпеку досліджень. Незважаючи на нову хвилю тривожних сигналів від таких світил, як Ілон Маск та Стівен Хокінг, у відкритому листі учасників не було того заклику до дії, який пролунав на зустрічі біотехнологів у Асиломарі у 1975 році.

Враховуючи, що DeepMind була куплена Google, публічне філософствування Легга набуває особливого значення. Сьогодні Google - найяскравіший приклад потенційних наслідків розвитку ІІ та посилення інтелекту. Побудована на алгоритмі, що ефективно збирає знання, а потім повертає їх людям у процесі пошуку інформації, Google тепер зайнята створенням імперії роботів. Компанія може створити машини, які замінять людей: водіїв, працівників служб доставки та збирачів електроніки. Поки неясно, чи залишиться вона компанією «посилення інтелекту», чи орієнтуватиметься на ІІ.

І знову етичні питання

Нову хвилю занепокоєння з приводу потенційної загрози з боку штучного інтелекту та робототехніки породжують етичні проблеми, показані в науково-фантастичному фільмі «Той, що біжить по лезу». На початку фільму детектив Декард зустрічається з Рейчел, співробітницею компанії, яка виробляє роботів (або реплікантів), і запитує її, чи дорого коштує «нічний метелик». Вона висловлює припущення, що не розуміє цінності роботи компанії. «Репліканти подібні до будь-якої іншої машини, - відповідає Декард. - Вони чи благо, чи небезпека. Якщо вони благо, це не моя турбота».

Скільки мине часу, перш ніж інтелектуальні машини Google, засновані на технологіях від DeepMind та робототехнічного підрозділу Google, будуть викликати такі самі питання? Мало які фільми мали такий самий культурний ефект, як «Той, що біжить по лезу». Усього вийшло сім його версій, одна з яких режисерська, зараз знімається сіквел. У ньому розповідається історія відставного детектива з Лос-Анджелеса, якого у 2019 р. викликали, щоб вистежити та знищити групу штучно створених істот, відомих як репліканти. Репліканти призначалися до роботи поза планети, але незаконно повернулися Землю, щоб змусити свого творця збільшити обмежену тривалість їх життя. Цей фільм, що став сучасним «Чарівником Країни Оз», відображає надії та страхи технологічно грамотного покоління.

Від Залізного Дроворуба, який отримує серце і, таким чином, певною мірою стає людиною, до реплікантів, що настільки перевершують людей, що Декард отримує наказ знищити їх, ставлення людства до робіт перетворюється на визначальне питання епохи.

Ці «інтелектуальні» машини ніколи, можливо, не стануть інтелектуальними в людському розумінні або самосвідомістю. Справа не в цьому. Штучний інтелект швидко вдосконалюється і наближається до рівня, коли він все більшою мірою здаватиметься інтелектом.

Фільм «Вона», який вийшов у грудні 2013 р., знайшов широкий відгук у суспільстві, швидше за все, тому, що мільйони людей вже взаємодіють з персональними помічниками, такими як Siri компанії Apple. Взаємодія, подібна до показаного у фільмі, стала звичайною. У міру того, як комп'ютери зменшуються в розмірах і вбудовуються в предмети повсякденного користування, ми очікуємо, що взаємодія з ними буде розумною. Працюючи над Siri, поки проект ще прихований від суспільної уваги, Том Грубер називав систему «інтелект в інтерфейсі». Йому здавалося, що він зумів поєднати конкуруючі світи штучного інтелекту та посилення інтелекту.

І справді, поява програмних інтелектуальних помічників начебто натякає на зближення таких несумісних спільнот, як розробники систем людино-машинної взаємодії та дослідники штучного інтелекту. Алан Кей, який стояв біля витоків індустрії сучасних персональних комп'ютерів, сказав, що, займаючись комп'ютерними інтерфейсами, він працював на майбутнє, яке настане через 10–15 років. Ніколас Негропонте, один із перших дослідників вбудованих медіа, та мовних інтерфейсів, працював на 25–30-річну перспективу. Як і Негропонте, Кей стверджує, що найкращі комп'ютерні інтерфейси – ті, які більше схожі на театр, а найкращий театр настільки залучає публіку у свій світ, що люди почуваються його частиною. Цей підхід безпосередньо веде до інтерактивних систем, які функціонуватимуть швидше як інтелектуальні колеги, а не як комп'ютеризовані інструменти.

Як ці комп'ютерні аватари перетворять суспільство? Люди вже зараз витрачають істотну частину неспання на взаємодію через комп'ютери один з одним або з подібними до людини машинами у відеоіграх або у віртуальних системах від FAQbots до Siri. Ми використовуємо пошукові системи навіть у щоденних розмовах.

Машини вже вибудовують нашу повсякденність

Чи стануть ці інтелектуальні аватари нашими слугами, помічниками та колегами чи водночас одним, іншим та третім? Чи на нас чекає похмуріший сценарій, за якого вони перетворяться на наших господарів? Підхід до робіт і штучного інтелекту з погляду соціальних взаємин може у перший час здатися абсурдним. Тим не менш, з урахуванням нашої схильності до олюднення машин, ми напевно вступатимемо з ними в соціальні відносини в міру підвищення їхньої автономності.

Це підводить нас до ще однієї великої проблеми: ризику поступитися контролем над прийняттям повсякденних рішень все більш складним алгоритмам. Нещодавно ветеран венчурного бізнесу Кремнієвої долини Ренді Комісар був на конференції і слухав виступ, який описував конкурента Siri - сервіс Google Now. «Схоже, людям до смерті хочеться, щоби якийсь інтелект підказував їм, що треба робити, - сказав він. - Що вони мають їсти, з ким мають зустрічатися, на які вечірки мають ходити».

На його погляд, для сьогоднішнього молодого покоління світ перекинувся нагору ногами. Замість використання комп'ютерів для здобуття свободи і можливості мислити масштабно, для встановлення близьких відносин, для реалізації своєї індивідуальності та творчого потенціалу, молоді люди настільки прагнуть вказівок, що готові передати цю відповідальність штучному інтелекту у хмарі.

Протиріччя, властиве ідеологіям штучного інтелекту та посилення інтелекту, вперше вразило мене, коли я зрозумів, що Енгельбарт і Маккарті займалися створенням комп'ютерних технологій з абсолютно різними цілями. У їхніх підходах була двоїстість, і парадоксальність. І це зрозуміло – якщо ви розширюєте можливості людини за допомогою комп'ютерної технології, то неминуче витісняєте людей. Водночас вибір тієї чи іншої сторони у суперечці – це питання етики, хоча його й не можна розглядати як вибір між чорним та білим.

Звичайно, ці технології мають межі. Американський дослідник ІІ Террі Виноград каже, що цілі застосування комп'ютерних технологій – розширення можливостей людей або їх заміна – залежать більшою мірою від характеру економічної системи, а не від властивостей самих технологій. У капіталістичній економіці, якщо технології штучного інтелекту зможуть замінювати білі комірці та працівників інтелектуальної праці, то вони неминуче використовуватимуться саме таким чином. Саме в цьому полягає урок для таких, що по-різному підходять до систем майбутнього дослідників штучного інтелекту, робототехніків і програмістів. Зрозуміло, що попередження Білла Джоя («майбутнє не потребує нас») - це лише один із можливих результатів. Не менш очевидно, що перетворений цими технологіями світ не повинен обернутися катастрофою.

На те, що почалося для мене як парадокс, є простою відповіддю. Усунення протиріччя між штучним інтелектом та посиленням інтелекту залежить від рішень людей – інженерів та вчених, які усвідомлено обрали антропоцентричний підхід.

Це проблема нас як людей та світу, який ми створюємо. Це не проблема машин.