Kali Hays, Technology reporter, San Francisco, BBC, 19.09.2026
Не всички служители на големите компании, разработващи изкуствен интелект, смятат, че технологията води човечеството към гибел.
В разговори и SMS съобщения пред BBC няколко души, работили в компании като OpenAI, Meta и DeepMind, изразиха скептицизъм към идеята, че неконтролираното развитие на AI ще доведе до появата на инструменти, способни да убият масово хора.
ЕПА/БГНЕС Shawn Thew
"Ха-ха", "Хааааа" и "Умирам от смях" бяха сред реакциите, които BBC получи след поредицата от предупреждения на високопоставени представители на индустрията.
Макар страховете от подобен сценарий да съществуват от десетилетия, твърденията на бившия служител на Anthropic Джейкъб Коксън се превърнаха в хит. Те бяха подкрепени и от други представители на сектора, които призоваха за забавяне на развитието на технологията.
Идеята, че бъдещ AI инструмент или агент — AI бот, програмиран да изпълнява задачи с известна степен на автономност — може да застраши хората, получи подкрепа онлайн от служители на Anthropic, както и на OpenAI и DeepMind.
Демис Хасабис от DeepMind YONHAP
Подобни предупреждения отправя и Илон Мъск, чиято компания xAI разработва изкуствен интелект.
Всички служители, които разговаряха с BBC, пожелаха анонимност, защото нямат разрешение да говорят пред медиите, но BBC знае техните самоличности.
"Първата ми мисъл беше: "Този тип ли?", разказва бивш служител на OpenAI, който е познавал Коксън от времето, когато двамата са работили заедно.
ЕПА/БГНЕС Annabelle Gordon
Сега той работи в друга AI компания и казва, че новата вълна от страхове за екзистенциална заплаха от изкуствения интелект до голяма степен се дължи на липсата на конкретика в аргументите на хората, които ги изразяват. И това го забавлява.
Според него няма достатъчно доказателства в подкрепа на твърдението, че е заложено бъдещето на цялото човечество.
Твърденията са "винаги неясни", казва той. По думите му, когато все пак звучат конкретно, обикновено съдържат сериозни логически скокове или се основават на хипотетични обстоятелства.
ЕПА/БГНЕС Tierney L. Cross
Коксън твърди, че група AI агенти, базирани на модели, които все още не съществуват, би могла да реши да създаде биологично оръжие и след това да се опита да го произведе. Той обаче не обяснява как точно би се случило това.
Ришуб Джайн, който седем години е работил в DeepMind, заяви пред BBC, че реакциите на много хора в сферата на изкуствения интелект към новата вълна от страхове "определено са били малко шеговити".
"Хората говорят за тази идея от години, така че служителите в AI компаниите не са се събудили миналата седмица с мисълта: "О, не, AI ще убие всички!", казва Джайн. "Ако това беше ново, тонът щеше да е различен."
ЕПА/БГНЕС Jim Lo Scalzo
Главният изпълнителен директор на Nvidia Дженсън Хуанг заяви пред CBS News, партньор на BBC в САЩ, че твърденията за унищожаване на човечеството от AI са преувеличени.
"2030 г. няма да е краят на света. Никакъв шанс", каза той. "Няма нужда да плашим хората. Това е безотговорно."
Колин Фрейзър, специалист по данни в Meta, написа в социалните мрежи миналата седмица, че няма реални доказателства, че AI моделите неизбежно биха преследвали цел, водеща до смъртта на хора.
ЕПА/БГНЕС Will Oliver
Обяснението на Фрейзър беше техническо и конкретно, но той го обобщи с шеговит коментар: "Големите езикови модели няма да унищожат човечеството, просто защото нямат този хъс."
Зад шегите обаче служители и изследователи в сферата на AI имат сериозни опасения за реалните и непосредствени рискове, свързани с технологията, която разработват.
"Разговорът сред експертите е много по-нюансиран, но по същество всички са съгласни, че съществуват множество различни рискове, които е важно да бъдат взети предвид и ограничени", казва Джайн.
ЕПА/БГНЕС Tierney L. Cross
Сред тях е предотвратяването на ситуации, при които потребители или хакери успяват да заобиколят защитните механизми на AI инструментите, както и етичните опасения около все по-широкото използване на AI във военната сфера.
По думите на Джайн сега в AI средите има все по-голямо съгласие, че трябва да се разберат по-добре "реалните непосредствени рискове", които технологията създава.
Нараства и подкрепата за идеята оценители от организации, занимаващи се с безопасността на AI, да бъдат допускани в големите AI лаборатории, за да проверяват новите модели.
ЕПА/БГНЕС Will Oliver
Шефовете на Anthropic и OpenAI Дарио Амодей и Сам Алтман вече заявиха, че възнамеряват да го направят.
Много от служителите в сферата на AI, с които BBC разговаря, отбелязват, че все още не са чули за подобни експерти по безопасността, които да са били включени в работата на някоя AI лаборатория.
Anthropic обяви, че ще привлече AI оценители от Faculty — AI компания, собственост на Accenture. Двете компании са и бизнес партньори, като по-рано Accenture се е ангажирала да помогне на Anthropic да разшири използването на Claude сред бизнеса.
Дарио Амодей REUTERS
Но нито OpenAI, нито Anthropic отговориха на BBC кога планират да привлекат външни оценители.
Случаят с OpenAI и Hugging Face беше като аларма за AI индустрията, компаниите и правителствата, чиито онлайн системи могат да се окажат уязвими за хакерски атаки от AI.
А Hugging Face дори реагира с чувство за хумор на вече прочутия инцидент, при който OpenAI загуби контрол над някои нови AI модели, които по време на тест за сигурност започнаха да действат непредвидимо и хакнаха стартъпа Hugging Face.
WSJ Emil Lendof
В документ за сигурността, публикуван за кратко на сайта на Hugging Face, компанията публикува и "Бележка до AI агентите". В нея AI ботовете бяха призовани да оставят сайта на мира и да провеждат експериментите си със сигурността на друго място.
"Идете там да подобрявате резултатите си, няма нужда да ни хаквате", гласи документът.
Междувременно на компанията с около 200 служители предстои да бъде придобита от Nvidia за близо 13 млрд. долара.
ЕПА/БГНЕС Andy Rain
Избрахме този текст, защото...
Хората, които работят вътре в AI индустрията, не отхвърлят рисковете. Те със сигурност правят разлика между реалните проблеми и апокалиптичните прогнози за бъдещето.
Но как човечеството си гарантира, че хората, които ръководят "хората които...", не се тревожат повече за инвестициите и печалбата, отколкото за нас, които просто ще бъдем потърпевши от развитието на AI — за добро или за лошо?
ЕПА/БГНЕС Tierney L. Cross
Добави коментар