«Людей держат за идиотов, которым ничего не надо убедительно объяснять» Поделиться
Вы покупаете билет на самолет, а вам говорят: все замечательно, вас ожидает приятное путешествие, вот только есть «10–20% вероятности», что самолет рухнет. Это же немного, верно? 20%, может быть, даже 10%. Это совсем мало. Почему бы не купить билет и не надеяться на лучшее?
В России, по словам главы ВЦИОМ Валерия Федорова, 77% технооптимистов. Но, честно говоря, я не знаю такого технооптимиста, который купил бы билет на этот самолет.
А вот когда миллиардер Илон Маск, посвящающий львиную долю своего времени и денег разработкам в сфере искусственного интеллекта, заявляет, что существует двадцатипроцентная вероятность, что искусственный интеллект уничтожит человечество (но призывает думать об остальных восьмидесяти процентах и да — буквально «наслаждаться поездкой»), — почему-то никто не спешит забить тревогу и озаботиться тем, что происходит. Все хотят быть технооптимистами. Я тоже хочу. Но я хочу, чтобы меня успокаивали убедительно.
Убедительно — это не так, как делает академик Игорь Каляев, когда говорит, что «если сильный искусственный интеллект будет превращаться в угрозу человечеству, его просто можно отключить от источников электроэнергии». Когда слушаю такой прогноз — в первую очередь слышу: «ИИ может превращаться в угрозу человечеству». И для меня далеко не факт, что на этой стадии его «просто» можно будет отключить от источников электроэнергии.
Убедительно — не так, как это делает инженер Марина Минникова, когда отмечает, что люди всегда будут превосходить ИИ, потому что у них есть эмпатия, и тут же перечисляет, какие особые качества должен развивать человек, чтобы «оставаться актуальным в эпоху ИИ». На мой взгляд, люди должны оставаться актуальными в любую эпоху, даже если у них нет никаких особенных качеств: в этом состоит самая суть эмпатии, сердцевина поддержки человека человеком.
Убедительно — не так, как это делает еще один известнейший миллиардер Билл Гейтс, когда говорит, что «прогресс неостановим», и надо стремиться развивать ИИ скорей-скорей, ведь «плохие парни» наверняка этим займутся, а мы-то еще не совсем плохие парни и не должны отставать! Истерическая спешка «чтоб кто-нибудь другой не опередил» — уж точно не то, что может успокоить.
Убедительно — не так, как это делает банкир Герман Греф, когда в Совете Федерации заявляет, что «искусственный интеллект будет менять всё, все сферы деятельности людей» и при этом «будет делать выводы не на основе данных, которые мы в него поместили, а исходя из собственной картины мира».
А как тогда?
Прежде всего необходимо, чтобы людям очень конкретно объясняли, почему в тех или иных узких сферах может быть полезен искусственный интеллект. Подчеркну: именно в конкретных, избранных, узких сферах, а не «вообще всех», как хочет Греф. Потому что когда Илон Маск говорит, что даже в случае исполнения самого оптимистичного сценария ИИ приведет человечество к «экзистенциальному кризису», — он как раз хорошо поясняет, что имеет в виду: «Если машина может делать все то же, что и вы, только лучше, в чем тогда смысл что-то делать?»
Вот это — убедительное пояснение. Я не хочу, чтобы машины умели делать все то же, что и мы. Это первейшая отсечка. Должно быть очень четкое, точечное, выверенное, взвешенное распределение того, что позволено делать ИИ, а куда его прямо не следует пускать, прямо следует запрещать. С той же неуклонностью, с какой нормальный человек не пускает тараканов ползать по своим продуктам. Мы почему-то это не разрешаем, хотя, если не проводить микроскопические исследования, тараканы ведь «просто бегают»…
Конечно, меня как человека пишущего беспокоит будущее моей сферы деятельности. В частности, когда заместитель директора Института языкознания РАН Игорь Исаев говорит, что «отличить написанное искусственным интеллектом уже почти невозможно, я бы не взялся», — я не понимаю, почему он лишь констатирует, а не бьет тревогу. Ну, хотя бы не проводит конференции на тему, почему это опасно и плохо. Что это опасно и плохо — обосновать совсем нетрудно, и я лично возьмусь подготовить обстоятельный доклад на эту тему, если Исаев меня позовет. Ручаюсь: его можно будет отличить от написанного искусственным интеллектом.
Но мое беспокойство выходит далеко за пределы моей сферы деятельности. Например, я считаю категорически вредным представлять искусственный интеллект арбитром справедливости. Это, кстати, одна из последних американских разработок: ученые из Университета Карнеги–Меллона и Технологического института Стивенса спроектировали модель ИИ, которая распределяет средства исходя из «равного отношения к группам, которые различаются по экономическому уровню, расе, этническому происхождению, полу и другим категориям». Модель даже учитывает, как отказ в кредите повлияет на жизнь каждого конкретного гражданина, — вот какая справедливость и «оптимизация социального обеспечения»!
Так вот: машина в принципе не должна принимать такие решения. Пусть их принимают люди, пусть люди будут ошибаться, пусть люди будут недовольны — но пусть они сохранят связь, прямую взаимозависимость друг от друга. Машину в принципе нельзя пускать в эту сферу. Есть живые вещи, которые должно быть прямо запрещено формализовывать. Некоторым нравятся французские регулярные сады, и они действительно могут производить впечатление, но стремление превратить мир во французский регулярный сад должно расцениваться как маниакальное. Само стремление, задолго до реализации.
Возвращаясь к тому, что хочу быть технооптимисткой, не могу не затронуть вот еще какой важный момент: почему-то поклонники прогресса, которые так жаждут «сокращения углеродного следа», что всячески порицают бензиновые автомобили и вступают на тропу борьбы с коровами, выпускающими газы, — почему-то эти прогрессоры не выказывают озабоченности тем, что ИИ уже сейчас потребляет очень, очень много электроэнергии. Прямо-таки в масштабах, сравнимых с развитыми европейскими странами. И это не становится поводом перестать пропихивать ИИ дальше во все сферы деятельности. А вот вы, дорогие граждане, должны быть сознательными и сократить потребление мяса, чтобы бороться с глобальным изменением климата.
Я хочу быть технооптимисткой — хотя бы для того, чтобы веселее было жить на свете, — но я не могу примириться с тем, что людей держат за идиотов, которым ничего не надо убедительно объяснять. И так поступают те, кто не несет никакой ответственности за свои действия (это необходимое условие для того, чтобы держать людей за идиотов).
То, что в конечном итоге мы все в одной лодке — все, и даже господа прогрессоры еще могут при своей жизни раскаяться в том, что натворили, — это, конечно, успокаивает. Но слабо.
