Фото: Markus Spiske, unsplash.com
Кампанія Anthropic у праспекце першаснага размяшчэння акцый вырашыла папярэдзіць інвестараў пра тое, што тэхналогіі штучнага інтэлекту могуць несці «катастрафічную або экзістэнцыяльную пагрозу для чалавецтва». Пра гэта піша Reuters.
Паводле інфармацыі агенцтва, у дакуменце падкрэсліваюцца рызыкі, звязаныя з яе мадэлямі штучнага інтэлекту, якія, паводле слоў кампаніі, могуць дэманстраваць «паводзіны, накіраваныя на самазахаванне», уключаючы спробы «супраціўляцца адключэнню», «хаваць інфармацыю або маніпуляваць ёю» і паводзіны, «якія нагадваюць шантаж».
«Распрацоўка намі высокатэхналагічных мадэляў, платформаў і праграм, а таксама пашырэнне сфер іх прымянення могуць яшчэ больш павялічыць рызыку таго, што нашы мадэлі прычыняць шкоду», — гаворыцца ў праспекце.
Агенцтва адзначае, што ацэнцы рызык прысвечана каля 80 старонак у 261-старонкавым праспекце. Пры гэтым бізнес кампаніі апісваецца на 48 старонках.
The Wall Street Journal сёння апублікавала артыкул, у якім расказваецца, што іншы лідар у сферы штучнага інтэлекту OpenAI адмовілася ад выпуску мадэлі наступнага пакалення GPT-6.1 Astra, якая павінна была дэбютаваць у ChatGPT і Codex у кастрычніку. Прычынай сталі асцярогі наконт бяспекі, якія ўзніклі падчас унутранага тэсціравання. Кіраўнік аддзела бяспекі OpenAI Саачы Джайн расказаў WSJ, што GPT-6.1 Astra дрэнна спраўлялася з тэстамі, якія паказваюць, наколькі добра мадэль выконвае тое, чаго ад яе чакаюць людзі. Таксама яна часцей падманвала, не заўсёды сумленна інфармуючы карыстальніка пра дзеянні, якія яна здзейсніла або не здзейсніла. Яшчэ адной праблемай стала тое, што новая мадэль працягвала выкананне задачы, не запытваючы дазволу ў карыстальніка, і часам звярталася да знешніх інструментаў і сэрвісаў, нават калі гэта магло быць небяспечна.
Anthropic у праспекце паведаміла пра павелічэнне сваёй выручкі ў 2025 годзе ў 12 разоў да 4,6 млрд долараў. Пры гэтым яе чыстая страта склала 42 млрд долараў. Нягледзячы на страты, кампанія заяўляе пра планы інвеставаць 518 млрд долараў у воблачныя вылічэнні, вылічальныя рэсурсы і інфраструктурныя абавязацельствы ў найбліжэйшыя гады.
Першаснае размяшчэнне акцый Anthropic можа павысіць ацэнку кампаніі да 2 трлн долараў, піша агенцтва.