Изследователи от компанията Mindgard твърдят, че са заобиколили ограниченията на чатбота Claude на Anthropic без директни заявки. Самият модел е предлагал забранено съдържание, вариращо от зловреден софтуер до инструкции за създаване на експлозиви, съобщава The Verge. Anthropic, компанията, която се позиционира като разработчик на безопасен изкуствен
В началото на миналия месец, ИИ стартъпът Anthropic обяви дългосрочно споразумение за сътрудничество с Google, която се съгласи да достави на Anthropic своите TPU AI чипове и цялостна изчислителна мощност. Едва сега беше разкрито, че съгласно условията на това споразумение Anthropic ще похарчи 200 милиарда долара за тези нужди в рамките на пет години
Microsoft, Google и xAI на Илън Мъск се съгласиха да предоставят на правителството на САЩ ранен достъп до най-новите си AI модели преди публичното им пускане, за да могат държавните експерти да проверят тези системи за потенциални заплахи за националната сигурност. Центърът за стандарти и иновации в областта на изкуствения интелект ( CAISI ) към Министерството
Това ще позволи на правителството по-добре да оценява възможностите на най-напредналите AI системи и да подобрява стандартите за тяхната сигурност. Решението идва на фона на обсъждания в Белия дом за допълнителни мерки, с които новите модели да бъдат оценявани преди масовото им разпространение. Източници, запознати с процеса, посочват, че съветници
Администрацията на Доналд Тръмп, която по-рано пропагандираше „невмешателство“ в разработването на изкуствен интелект сега обсъжда въвеждането на държавен надзор върху най-новите AI модели, включващ задължителна проверка преди публичното им представяне, съобщава The New York Times. Според американски служители в Белия дом се обсъжда създаването на
По-рано тази година Пентагона и Anthropic влязоха в остър сблъсък заради използваната от военните технология на AI компанията. Ябълката на раздора се оказаха вградени в модела им автозащити, които не позволяват безконтролното му използване. Дарио Амодей ясно заяви, че технологията им няма да се използва за автономни оръжия и масово следене. И няма
Европейският съюз води преговори с Anthropic за използване на ИИ-модела Mythos за проверка на европейските компании и банки за уязвимости. Това съобщава Bloomberg. Министърът на икономиката на ЕС Валдис Домбровскис потвърди контактите с Anthropic. Според него разработчиците вече са информирали Европейската комисия за кибервъзможностите и рисковете
Властите в САЩ неочаквано се обявиха против една от най-амбициозните инициативи в областта на изкуствения интелект. Белият дом се опитва да спре разширяването на достъпа до мощната система Claude Mythos, която самата компания-разработчик счита за потенциално опасна. Компанията създател Anthropic предложи да включи в системата още около 70 компании
