У Anthropic та OpenAI забили на сполох через ШІ, але це може врятувати людство, - BI
Великі гравці в галузі штучного інтелекту погодилися об’єднатися, щоб боротися з цією загрозою
Відкрите обговорення загроз з боку штучного інтелекту сприяє підвищенню обізнаності.
Останніми днями дедалі частіше лунають гучні заяви про те, що вже зовсім скоро штучний інтелект може стати загрозою для людства. Першим, хто очолив цю нову хвилю апокаліптичних попереджень, став колишній дослідник Anthropic Джейкоб Коксон, який стверджує, що Anthropic та OpenAI "ризикують життями людей". Пізніше його підтримав Пол Крістіано з ради директорів та комітету з безпеки OpenAI.
Як пише Business Insider, уся ця раптова увага може знизити ймовірність реалізації найгіршого сценарію. Більше того, великі гравці в індустрії штучного інтелекту погодилися об’єднатися, щоб боротися з цією загрозою.
Крістіано після заяви Коксона запевнив, що "більшість людей може загинути", якщо буде створено "надрозум без більш надійної системи узгодження". Пізніше генеральний директор Anthropic Даріо Амодей підтримав цю заяву та запропонував план безпеки, що складається з трьох кроків.
Потім керівник OpenAI Сем Альтман відповів, що його компанія приєднається до ініціативи Anthropic щодо надання незалежним експертам широкого доступу. Пізніше керівник Tesla та SpaceX Ілон Маск у соцмережах написав, що Амодей має рацію щодо небезпеки ШІ.
У виданні підкреслили, що відкрите обговорення загроз з боку ШІ сприяє ширшій обізнаності. Ймовірно, це може допомогти уникнути події, здатної призвести до вимирання людства, про що попереджають у компаніях Anthropic та OpenAI.
Також у виданні зазначили, що ринки загалом залишаються незворушними. Минулого тижня фондовий ринок продемонстрував зниження, проте потім акції компаній у сфері ШІ зросли, завершивши тиждень у плюсі.
Дослідник Anthropic пішов із компанії через страх перед ШІ
Раніше 27-річний дослідник Anthropic Джейкоб Коксон вирішив піти з компанії та галузі штучного інтелекту через побоювання, що розробники поспішають створити самоудосконалюваний надрозум, але при цьому не замислюються над тим, як його контролювати в майбутньому.
Коксон переконаний, що світ поступово наближається до "точки неповернення": керівники компаній, що займаються ШІ, вірять у те, що нейромережі можуть знищити людство до кінця цього десятиліття. Тому він і звільнився з Anthropic, щоб не "гратися з людськими життями".
