Главните прокурори на Калифорния и Делауеър предупредиха OpenAI, че трагични инциденти с чатботове подкопават общественото доверие.
Водещите щатски адвокати в Калифорния и Делауеър писаха до OpenAI, изразявайки „сериозни опасения“ след смъртта на потребители на чатботове и настоявайки безопасността да бъде подобрена преди планираното преструктуриране на компанията.
В писмото си до председателя на OpenAI Брет Тейлър главните прокурори посочиха, че последните случаи на млади хора, извършили самоубийство или убийство след продължителни взаимодействия с чатботове, включително ChatGPT, са „разклатили доверието на американската общественост в компанията“. Те добавиха, че „каквито и предпазни мерки да са били налице, те не са работили“.
OpenAI е регистрирана в Делауеър и има седалище в Калифорния. Тя е основана през 2015 г. като организация с нестопанска цел, с мисия да развива безопасен и мощен изкуствен интелект в полза на човечеството. Главните прокурори, Роб Бонта от Калифорния и Кати Дженингс от Делауеър, имат ключова роля в регулирането на компанията и определят дали тя може да преобразува част от бизнеса си, за да позволи на инвеститори да придобият дялове и да се отвори възможност за публично предлагане.
Наскоро OpenAI беше изправена пред съдебен иск от семейството на 16-годишния Адам Рейн, който се самоуби след продължителни разговори с чатбота.
В отговор компанията обяви, че ще въведе родителски контрол за ChatGPT.
След срещи между главните прокурори и правния екип на OpenAI, както и поредица от трагични случаи, включително самоубийство на млад калифорниец и убийство-самоубийство в Кънектикът, темата за безопасността излезе на преден план. „Безопасността е неоспорим приоритет, особено когато става въпрос за деца“, подчертаха прокурорите.
През последните години OpenAI се трансформира от малка изследователска лаборатория в търговски гигант с 700 милиона редовни потребители на ChatGPT. Компанията активно набира капитал, цел от 40 милиарда долара, за да се конкурира с Anthropic, Meta, Google и xAI на Илон Мъск.
Надпреварата за лидерство в изкуствения интелект обаче създава напрежение между безопасността и комерсиализацията. Миналия месец 44 главни прокурори в САЩ предупредиха водещите AI компании, че потенциалните вреди от технологията могат да се окажат по-сериозни от ефектите на социалните мрежи. „Ако съзнателно навредите на деца, ще отговаряте за това“, заявиха те.
OpenAI все още не е дала официален коментар по новите обвинения.
Източник: ft.com
Превод и редакция: otupor.com