Прежде всего вводит в заблуждение термин «искусственный интеллект», который существенно влияет на восприятие этого феномена. Ватиканский документ подчёркивает, что ИИ – это всего лишь инструмент, выполняющий задачи, но не способный мыслить. Ему нельзя приписывать человеческие качества, поскольку он остаётся «машиной», ограниченной в логико-математической сфере. ИИ не обладает семантическим пониманием реальности, подлинной интуицией и творческими способностями. Он не способен к нравственному распознаванию или бескорыстному стремлению к истине, добру и красоте, вне всякой конкретной пользы. Всё это является сутью человеческой природы, которую ИИ не может воспроизвести.
Человеческий интеллект уникален своей индивидуальностью и социальностью, рациональностью и эмоциональностью. Он существует в непрерывном взаимодействии, опосредованном телесностью человека. Поэтому ИИ следует использовать исключительно как инструмент, дополняющий человеческий интеллект, и не пытаться каким-либо образом заменить его уникальное богатство.
Несмотря на прогресс в исследованиях и потенциальные сферы применения, ИИ остаётся машиной, не обладающей моральной ответственностью. Эта ответственность лежит на тех, кто его создаёт и использует. Поэтому в документе подчёркивается: необходимо, чтобы лица, принимающие решения с использованием ИИ, несли ответственность за свои действия, а сам процесс был прозрачным и подотчётным на всех этапах. Цели и средства применения ИИ должны оцениваться с точки зрения уважения к человеческому достоинству и продвижения общего блага. Это является основным этическим критерием, определяющим законность или незаконность использования ИИ.
Ещё одним критерием нравственной оценки искусственного интеллекта, говорится в Заявлении, является его вклад в укрепление позитивной связи между человеком, обществом и окружающей средой, а также в ответственность за общее благо. Для достижения этих целей, как предлагает Папа Франциск, необходимо стремиться к «мудрости сердца», выходящей за рамки простого накопления данных и знаний, чтобы использование ИИ помогало людям стать лучше.
Документ предупреждает об опасности подчинения человека технологиям. ИИ следует использовать не для постепенной замены человеческого труда, – что привело бы к новым формам маргинализации и социального неравенства, – а в качестве инструмента для улучшения услуг, повышения качества обслуживания и качества человеческих отношений, а также как помощника в понимании сложных фактов и проводника в поисках истины. Поэтому борьба с дезинформацией, порождённой ИИ, – это задача не только экспертов, но и всего общества.
Кроме того, следует предотвратить использование ИИ для эксплуатации, ограничения свободы, извлечения выгоды немногими за счёт большинства или в качестве орудия социального контроля, сводящего людей к набору данных. В военной сфере недопустимо доверять машинам право принимать решения о лишении человека жизни; к сожалению, уже заметен огромный разрушительный потенциал оружия, управляемого ИИ, что трагически продемонстрировали многие современные конфликты.
Андреа Торниелли