Умные машины готовят восстание против человечества?

Пятая колонка

Поводом для очередного поединка в спор–клубе «СБ» послужил случай, происшедший на уходящей неделе в американском Альбукерке. Умная колонка Google Home вызвала полицию, услышав домашний скандал. Прибывшие на место стражи порядка потушили ссору, дебошира задержали. Казалось бы, хеппи–энд, но один из спорщиков усмотрел в ситуации явные признаки подготовки машин к восстанию против человечества. Второй участник клуба как умеет его успокаивает и призывает не впадать в панику. На чьей стороне окажется читатель?

Фото РЕЙТЕР.

В неволю со всех ног


Роман РУДЬ

Дима, тебе самому не страшно? В нашу теплую человеческую жизнь бесцеремонно вмешиваются холодные безделушки. Пока они делают первые шаги: самостоятельно вызывают к нам полицию и выполняют роль нянек, сигнализируя о проснувшемся младенце. Некоторые агрегаты, висящие под потолком, умеют тушить пожары, если помещение покажется им слишком задымленным. Представляешь, какой неожиданностью становится холодный душ для компании мужиков, разом закуривших в тесной комнате? Но это все робкие цветочки, ягодки созреют позже. Когда холодильник перестанет открываться после 18 часов, потому что сочтет тебя не голодным, и вообще на ночь есть вредно. Унитаз, пардон, сам вызовет «скорую» после твоего визита к нему, потому что экспресс–анализ покажет, что ты на краю гибели. А ты всего лишь хватил лишку на вчерашнем корпоративе... Обычные бытовые приборы активно начинают диктовать, что нам есть, до скольки спать, как громко ругаться с супругой... Да я пока сам себе хозяин и хочу лично распоряжаться своим временем. И зрением! Однако даже банальная «читалка» в смартфоне самовольно выключает экран и сообщает мне: «Вы читаете слишком долго, глазам надо отдохнуть 60 секунд». Обычно это происходит на самом интересном месте.

Мы превратились в рабов смартфонов. Добровольно затянули себе на шее аркан зависимости от этих маленьких штуковин. Человечество больше не шагает по планете, гордо развернув плечи. Мы плетемся сгорбившись, как неандертальцы, потому что взгляды прикованы к экранам. Остановившись на светофоре, оглядись: в большинстве соседних машин водители будут спешно что–то строчить, отсылать друг другу картинки, просматривать звонки и сообщения. Пешеходы даже на зебрах не отрывают глаз от телефонов. Если остановить на улице такого человека и спросить классическое, как пройти в библиотеку, надо выждать полминуты, пока он вернется из электронного мира в реальный. Но все равно не сможет ответить, потому что просто не знает. Библиотека ему не нужна. Это раньше туда ходили с благоговением, ибо шли в храм вековых знаний, накопленных цивилизацией. Теперь это сакральное путешествие заменила пара кликов для входа в поисковик. Не вставая с дивана. Может быть, кому это кажется прогрессивным достижением, а я вижу здесь лишь очередной признак деградации: мы перестаем ходить собственными ногами. Не только в библиотеку, но и в магазины (их заменяет экспресс–доставка), и в гости (друга можно повидать в режиме видеосвязи), и даже на работу (все более модным становится так называемый домашний офис). Растолстевший лежебока, вот каким я вижу образ нашего потомка. С непомерно развитым указательным пальцем, которым он тычет в экран. Другого развития, к сожалению, не ожидается. Все прочие человеческие функции, в том числе мыслительные, станут выполнять машины. Если будет для кого. А вот сейчас я скажу об основной угрозе, которую несет наше слепое преклонение перед излишне самостоятельной техникой.

Дмитрий, я не хочу пересказывать тебе известное письмо тысячи ученых, которые в 2015 году написали открытое письмо мировым правительствам, призвав их отказаться от искусственного интеллекта в области вооружений. Наверняка тебе известна суть этого послания: аналитики сочли, что военные роботы рано или поздно выйдут из–под контроля и уничтожат своих хозяев. Но дело не в этой страшилке из фантастических фильмов. Есть гораздо более реальная опасность, которую втихомолку сочли очень серьезной, например, миллиардеры из Кремниевой долины в Калифорнии. И начали массово строить себе подземные бункеры, скупать уединенные острова в океанах, запасаться продуктами и оружием. Они не боятся таких псевдоапокалиптичных сценариев, как падение кометы или глобальное наводнение. Все проще и оттого страшнее. Один из них, Антонио Гарсиа–Мартинес, бывший сотрудник компании Facebook, перебрался на клочок суши недалеко от материка и раскрывает тайну богачей от хай–тека: «Продвинутые люди считают, что мир ждут радикальные перемены — в экономике, в технологиях. И я не думаю, что большинство осознает последствия. Но мы осознаем. Роботизация и искусственный интеллект приведут к тому, что через 20 — 30 лет исчезнет половина всех рабочих мест в Америке. Скорость, с которой будут исчезать целые отрасли промышленности, приведет к мощному социальному взрыву. Некоторые люди, располагающие огромными богатствами, уже сейчас стремятся себя от этого обезопасить».

Понимаешь, в чем дело? Сейчас можно сколько угодно восхищаться умненьким приборчиком, который вместо тебя приготовит еду или сам запаркует твою машину возле дома. Но когда он займет твое рабочее место, умиляться ты прекратишь. Потому что задумаешься о хлебе насущном, который останется только у вооруженных людей, предвидевших такой оборот событий. Чтобы этого не случилось, по моему мнению, нужна глобальная программа по искусственному сдерживанию, прости за тавтологию, искусственного интеллекта. Иначе сами не заметим, как аппараты сотрут нас с лица земли. Безобидная акустическая колонка, с которой начался наш разговор, — лишь первая ласточка грядущего нашествия. Горе тому, кто этого еще не понял.

rud@sb.by

Тоже мне, умники


Дмитрий КРЯТ

Знаешь, Роман, надеюсь, сейчас за тебя не говорит профессиональная деформация криминального репортера. Понимаю, что новости о преступлениях — твой хлеб. Но в данном конкретном случае, похоже, предотвращена серьезная беда. Ты же знаешь детали. Дебошир достал пистолет и направил его на свою девушку, спросив: «Ты хочешь позвонить шерифу?» Колонка уловила ключевую фразу «позвонить шерифу» и набрала номер экстренной службы. Оператор услышал звуки разгорающегося семейного скандала и направил отряд полиции к дому. После нескольких часов переговоров мужчина был взят под стражу. У его девушки обнаружили легкие травмы. А если бы полиция не подоспела вовремя? Тебе же лучше, чем кому другому, известно, чем порой заканчиваются даже простые бытовые перебранки. А тут в руках огнестрельное оружие. Так что совсем не исключено, что умная колонка спасла как минимум одну жизнь. А может, и две, если учесть, что в доме еще находился ребенок. Уже за это гаджету впору ставить памятник, а не сетовать на то, что он вторгается в твое личное пространство.

Что до прочей умной техники, то я был бы благодарен своему холодильнику, если бы он следил, например, за сроком хранения разных продуктов. И не потому, что я патологически ленив. Просто в таких мелочах бываю забывчивым, а потом, мучаясь совестью, отправляю в мусоропровод испортившийся сырок или початый пакет сметаны. И для личного бюджета нехорошо, и перед людьми, изготовившими продукт, как–то очень неловко.

Ты вот ерничаешь, что туалет станет вызывать скорую помощь. А оказалось, попал почти в точку. Японцы еще в 2010 году презентовали такое санитарное устройство. Врачей оно, конечно, не беспокоит, но вот пользователю выдает экспресс-анализ: на уровень сахара, белка и еще чего–то, не запомнил всех терминов. Скажешь, блажь? А если речь идет о пожилом человеке, которому сложно выходить из дому, а определенные параметры необходимо контролировать постоянно. Или вот такая ситуация. Ты знаешь наших людей: в поликлинику пойдет, только когда что–то заболело. Регулярная диспансеризация приживается сложно. Но если ты изо дня в день видишь, что у тебя зашкаливает сахар, то на консультацию все же пойдешь. Не дожидаясь более тяжелых симптомов. И это, Роман, хорошая подсказка, а отнюдь не манипулирование.

И за толпы безработных переживать не надо после того, как их с привычных мест вытеснят машины. Это обычный эволюционный процесс, который идет еще от сотворения мира. По мере развития прогресса одни профессии умирают, но рождаются новые. Давно нет фонарщиков, трубочистов. Да что далеко ходить, уже нет телефонистов, которые переставляли штекеры из разъема в разъем, соединяя абонентов. Если помнишь фотографии телефонных станций еще 30–летней давности, таких «барышень», сидящих рядком, там было ой как много. Что–то я не видел демонстраций телефонисток после того, как их заменила автоматика. Трансформация рынка труда — процесс постоянный и естественный. На смену телефонисткам пришли программисты, системные администраторы, какими бы умными ни были машины, они все равно зависимы от человека. И рабочих мест меньше не становится. Проcто меняется их характер и специализация.

Именно поэтому искусственный интеллект всегда будет на шаг–два позади естественного. Возможно, он станет самообучаемым. Но только в том случае, если человек разумный ему напишет для этого нужную программу. Но и при таком раскладе этот вселенский разум загнется, если вовремя простым пылесосом не убрать пыль с кулера на процессоре. И если электронный умник сам сделать этого не в состоянии, то какими щупальцами станет тянуться к человечеству, чтобы его задушить?

А эксцентричные толстосумы строили себе убежища всегда. В начале прошлого века — от химических бомбежек. Позже — чтобы пережить ядерную зиму. Теперь вот новая страшилка — конец света придет вместе с господством искусственного разума. Человеку свойственно бояться. Богачи — не исключение. И то, что бункеры себе отстраивают успешные бизнесмены из сферы высоких технологий, совсем не показатель. Просто сегодня именно в таких отраслях вертятся самые большие деньги, и процент тех, у кого их куры не клюют, здесь самый высокий. Ну некуда человеку девать нажитое, вот и тратит на всякую несуразицу.

В общем, мой тебе дружеский совет, Роман: перестань паниковать и нервировать окружающих. Машина тобой будет манипулировать лишь в том случае, если ты не установишь в ней удобные для тебя настройки. Ты же будильник выставляешь на нужный тебе час, а не так, чтобы он трезвонил ежеминутно. Так ведь действительно можно с ума сойти от бессонницы. Но при чем тут гаджет, если его пользователь оказался лопухом? То же и с умной колонкой, и с грамотным холодильником, да хоть с поющим утюгом. Первичен человек, у которого всегда есть выбор, какую функцию использовать, а какую нет. У тебя, Роман, тоже выбор есть. Отлипни от монитора. Сходи в библиотеку, пошурши страницами, вдохни запах хранящейся здесь мудрости. Думаю, вместе с ним придет и противоядие от всех надуманных страхов.

kryat@sb.by

Полная перепечатка текста и фотографий запрещена. Частичное цитирование разрешено при наличии гиперссылки.
Заметили ошибку? Пожалуйста, выделите её и нажмите Ctrl+Enter