U.S. blocks Anthropic's Fable 5 and Mythos 5 AI models over security concerns

Anthropic disables Fable 5, Mythos 5 after US security directive Anthropic announced on Friday that it is disabling its Fable 5 and Mythos 5 artificial intelligence models for all users after receiving a US government export control directive citing national security concerns, arguing that the alleged safety vulnerabilities were minor and already addressed in testing.

yenisafak · about 5 hours ago

Türkiye AI Summit to unveil vision, focus on remaining human Baykar Chair Selcuk Bayraktar announced that Türkiyes artificial intelligence vision will be unveiled at a summit in Istanbul on Saturday, emphasizing the event will address technological advancement alongside the cultural imperative of preserving human identity in an automated age.

yenisafak · about 5 hours ago

Как искусственный интеллект повлияет на рынок труда. The Wall Street Journal спросил об этом экономистов ведущих вузов, советников Белого дома и нобелевского лауреата Американский The Wall Street Journal провел опрос на тему того, как развитие искусственного интеллекта скажется на рынке труда — улучшит ли ИИ положение работников или наоборот приведет к массовым увольнениям. В опросе приняли участие 16 ведущих экономистов — ученые, глубоко вовлеченные в вопросы изучения ИИ, профессора самых престижных вузов, бывшие высокопоставленные советники Белого дома, а также лауреат Нобелевской премии по экономике 2024 года Дарон Асемоглу. Эксперты WSJ сошлись во мнении, что в краткосрочной перспективе ИИ повысит производительность труда, однако лишь немногие из них согласны, что это в дальнейшем приведет к появлению новых рабочих мест. Экономисты придерживаются противоположных позиций о гарантиях занятости в эпоху ИИ, но считают, что освоение ИИ-инструментов может помочь работникам избежать увольнения. В числе главных бенефициаров ИИ могут оказаться небольшие компании и стартапы, которые благодаря новым технологиям изменят свой подход к найму персонала, полагают эксперты. Вот некоторые цитаты из опроса.

meduza · about 5 hours ago

KI-geführte Unternehmen: Eine KI wäre ein fairerer Firmenboss Javier Milei will in seinem Land Unternehmen nicht von Menschen, sondern von einer Künstlichen Intelligenz leiten lassen. Immerhin sammelt die keine Rolex-Uhren. mehr...

taz.de · about 5 hours ago

Amazon voiced concerns about Anthropic AI models before US  governments crackdown, source says reut.rs/4a0prLJ

bluesky bot · about 6 hours ago

Deutscher Digitalminister soll laut Medien Reden von KI verfassen lassen haben Das Ministerium bestätigte den Einsatz von Künstlicher Intelligenz durch Minister Wildberger

der standard · about 6 hours ago

Anthropic: Why are we being profiled? France 24s Gavin Lee speaks to Aisha Down, the Guardian AI Corr on why there may be more to the suspension of Anthropics Fable 5 chatbot model and discuss whether there there is a risk of a two tier system for haves and have nots with the chatbot programmed to judge overall trustworthiness and the nature of the interaction.

france24 · about 6 hours ago

Efter USA:s AI-stopp – Europa måste agera Den amerikanska regeringen har stoppat icke-amerikaner från att använda ett avancerat AI-verktyg. Nu kräver en svensk forskare en storsatsning på en europeisk språkmodell – annars hotas vår konkurrenskraft.

svenska dagbladet · about 6 hours ago

How Amazon and the White House ended Anthropics Fable Anthropics much-anticipated, powerful Fable 5 AI model lasted just days in the publics hands, after an urgent report from Amazon triggered a scramble inside the White House that ended in a dramatic Friday night takedown. Why it matters: The episode highlights the administration and industrys reactionary approach to a technology that is moving at breakneck speed.It also raises questions about why Amazon would strike such a disruptive blow against a company in which it is a major investor. Behind the scenes: Amazon called administration officials Thursday night to share a report showing how they were able to jailbreak and access portions of Anthropics powerful new Mythos model that pose a national security threat, sources familiar told Axios.Anthropic had previously notified the government multiple times about the planned June 9 release of Fable — which is a general-use version of Mythos —and the government did not object, a source close to the company said.But calls from Amazon — as well as at least five other companies to a variety of senior administration officials Thursday evening and Friday morning — led to the model being shut down by Friday night.For the record: "As a leading cloud provider that serves a large number of private and public sector customers, its not uncommon for governments to seek our counsel on potential security risks. When they occur, we dont share the details of these discussions," an Amazon spokesperson said in a statement.Administration officials spoke with Anthropic for hours early Friday, trying to get the company to pull the latest model; those efforts were unsuccessful, an official said.On Friday around 5:20 p.m. ET, the White House sent Anthropic a letter, first reported by Axios, informing the company the Fable and Mythos models would be subject to sweeping export control rules. By about 10 p.m., users lost access to Fable. Under the controls, not only would Anthropics most advanced models be inaccessible to foreign adversaries — something Anthropic was already preventing on its own — but any U.S. ally or foreign national in the U.S. The implications were immediately felt within the company, where many foreign-born workers need access to Anthropics models.The Anthropic source says that CEO Dario Amodei and other Anthropic officials spoke with the administration after the company was told the government would impose the export rules. During the conversations, Anthropic officials laid out how the alleged Amazon jailbreak was relatively simple, could be achieved with other models, and did not demonstrate a flaw in Fable 5s safety systems.Between the lines: The governments response "seems way out of line with whats actually in the research report," Luta Security CEO Katie Moussouris, who Anthropic shared the Amazon report with, told Axios.Moussouris said the researchers were able to find security vulnerabilities by asking questions normal defenders would ask AI, which is exactly what the model was intended to do."All AI models need to be able to help defenders in exactly this way, or we wont be able to scale our defense against attackers," Moussouris said.The big picture: The export control letter targets just one company but could have broader implications across industry."This is a de-facto licensing regime," one person familiar told Axios. "Companies will not screw with the White House. That is the ultimate effect."An administration official told Axios they do not view other models as national security threats because they do not surpass the bar that Mythos set.Anything at Mythos level or above would need to go through the administration to ensure the governments national security apparatus is hardened enough, the official added. The bottom line: The source familiar with the governments thinking said there was a "lack of seriousness" that Anthropic was applying to the release of Fable. "Had Anthropic taken it seriously and, rather than dismissing as isolated, moved to fix or pause access, this would have never happened," the source said, adding "they were overly confident."

axios · about 6 hours ago

La inteligencia artificial toma el control de la atención al cliente Los agentes inteligentes ya pueden atender en varios idiomas, analizar patrones de las conversaciones o proponer respuestas a los humanos en tiempo real. ¿Están empresas, reguladores y trabajadores preparados para esa transición? Leer

expansion · about 6 hours ago

Ministerium verteidigt die Nutzung: Wildberger erstellte Gastbeiträge und Reden mithilfe von KI „Die Zeit berichtet, Wildberger habe „offenbar mehrere Gastbeiträge für Zeitungen zu großen Teilen von KI schreiben lassen. Das Ministerium spricht davon, dass der Minister KI als Hilfe nutze.

tagesspiegel · about 6 hours ago

Anthropic sperrt neue KI-Software für Ausländer Die US-Firma Anthropic hat nach einer Anordnung der Regierung in Washington den Zugang zu ihrer erst vor wenigen Tagen veröffentlichten Software mit künstlicher Intelligenz (KI) blockiert. Der Zugang für alle Ausländerinnen und Ausländer zu den KI-Modellen Fable 5 und Mythos 5 sei aus Gründen der nationalen Sicherheit zu unterbinden, hieß es am Samstag. Betroffen sind sogar Ausländer, die bei Anthropic arbeiten.

orf.at · about 6 hours ago

EEUU veta por primera vez la exportación de una inteligencia artificial y confirma el inicio de la guerra fría digital Donald Trump lleva la carrera tecnológica a una nueva dimensión al prohibir el acceso de extranjeros a Mythos y otros modelos avanzados de la startup AnthropicAnthropic corta el acceso a sus modelos de IA más avanzados tras una orden del Gobierno de Trump Si quedaba alguna duda sobre el papel clave de la inteligencia artificial para la seguridad nacional, Estados Unidos la ha resuelto este sábado. Donald Trump ha vetado por primera vez la exportación de un modelo de IA fuera de las fronteras del país o su uso por parte de extranjeros. Esto ha obligado a Anthropic, la empresa que lo desarrolla, a cortar por completo el acceso a esta tecnología ante el temor de no poder satisfacer las prerrogativas de la Casa Blanca. Anthropic llevaba meses en el ojo del huracán. Primero, por negarse a levantar algunas salvaguardas de seguridad para el uso de su tecnología en armas autónomas o vigilancia masiva. Después, por el desarrollo de Mythos, una IA que ha puesto en alerta la ciberseguridad mundial por su capacidad para encontrar brechas de seguridad que los mejores especialistas humanos habían pasado por alto. Lo que implica que, si cayera en las manos equivocadas, podría utilizarse para lanzar ataques contra infraestructuras críticas, administraciones públicas o la banca. Tras semanas de debate sobre qué hacer con Mythos y si la Casa Blanca debería tener capacidad para revisar los modelos antes de su lanzamiento, Trump ha terminado dando la orden de prohibir que los extranjeros tengan cualquier tipo de contacto con esta IA. Incluso aquellos que sean trabajadores de Anthropic. Hasta ahora, las medidas de control de esta tecnología por parte de EEUU se basaban en cerrar cuellos de botella y estaban acotadas a China y su zona de influencia. Especialmente chips avanzados, así como los programas y las máquinas para fabricarlos. Sin embargo, el nuevo movimiento de Trump eleva esa política a un nuevo nivel y marca el inicio de la guerra fría digital. Es la primera vez que la Casa Blanca bloquea un modelo que usaban ya millones de personas en todo el mundo, una decisión histórica que a tenor de lo ocurrido en Washington las últimas semanas, podría no ser la última. El bebé hermoso La medida llega después de una guerra soterrada entre Silicon Valley y la banca por las medidas de seguridad que deberían tener los nuevos modelos de IA. Un conflicto que los magnates tecnológicos parecían haber ganado por partida doble. Haremos que esta industria sea absolutamente la mejor porque ahora mismo es un bebé hermoso que ha nacido. Tenemos que hacer crecer a ese bebé y dejar que prospere, decía Trump sobre la IA al tomar posesión de su cargo. No podemos detenerla. No podemos detenerla con política. No podemos detenerla con reglas tontas y estúpidas, insistía, defendiendo un enfoque libertario contra la regulación. La segunda venida de Trump a la Casa Blanca estuvo marcada por su alianza con el capital riesgo de Silicon Valley. De su mano llegaron a Washington Elon Musk y el inversor David Sacks, dos miembros de la conocida como PayPal mafia, un grupo empresarios originarios de la Sudáfrica del apartheid defensores de la desregulación total de la tecnología. Ambos fueron designados empleados especiales del Gobierno, cargos con responsabilidades difusas que les permitían moverse con libertad por las diferentes capas del poder político estadounidense. De izquierda a derecha: Scott Bessent (director del Consejo Económico Nacional), Donald Trump y David Sacks, en la Casa Blanca. Mientras a Musk se le asignaba el puesto de líder del Departamento de Eficiencia Gubernamental, a Sacks se le encumbró como zar de la inteligencia artificial y las criptomonedas. Ambos centraron sus esfuerzos en frenar cualquier regulación para la IA, con Sacks insistiendo especialmente en cómo cualquier norma de seguridad supondría una zancadilla en la carrera con China. Se podría argumentar que la carrera de la IA es incluso más importante que la carrera espacial, porque va a determinar quién reconfigura la economía global y quiénes van a ser las superpotencias del siglo XXI, repetía. Dicho y hecho: una de las primeras medidas de Trump al llegar al Despacho Oval fue derogar por completo todas las medidas de seguridad para los sistemas de IA diseñadas durante la presidencia de Joe Biden, mientras iniciaba la guerra comercial y restringía aún más la venta de chips y otras tecnologías clave al gigante asiático. El detonante Mythos Una de las particularidades de esos cargos de empleado especial es que solo permiten estar períodos cortos de tiempo en la administración estadounidense. Musk y Sacks abandonaron los pasillos del Gobierno hace meses. En tecnología, es tiempo suficiente para que todo cambie por completo, sobre todo en medio de la revolución de la IA. El catalizador de ese cambio fue Mythos, anunciado en abril. Anthropic, fundada por extrabajadores de OpenAI que defienden la necesidad de una mayor seguridad en el desarrollo de IA, decidió no liberarlo en abierto. En vez de ello, ofrecieron un acceso acotado a grandes tecnológicas, bancos y gobiernos para que pusieran a prueba sus propios sistemas de seguridad. Con todo, el enfoque de control de daños de Anthropic no impidió que muchos tomaran a Mythos como un aviso a navegantes. La banca y los organismos de ciberseguridad quedaron en alerta: ¿y si Mythos se filtra fuera del entorno protegido de Anthropic? ¿Y si el próximo Mythos sale a la luz sin el período de pruebas controladas que estableció esta startup? Según el New York Times, directores de bancos como JP Morgan, la mayor entidad de EEUU, han expresado repetidamente a Trump estas preocupaciones desde abril. Zuckerberg frena la orden en el último momento Con Musk y Sacks lejos de Washington, el secretario del Tesoro, Scott Bessent, y la jefa de gabinete de Trump, Susie Wiles, pasaron a la acción. Según detallaron varios medios estadounidenses, ambos utilizaron a Mythos como palanca para convencer a Trump de que la inacción del Gobierno los haría parecer cómplices si ocurría un ciberataque masivo potenciado con inteligencia artificial. Lo consiguieron. Estamos estudiando que pasen por un proceso para que sean liberados abiertamente después de que se haya demostrado que son seguros, al igual que un medicamento de la FDA [Administración de Alimentos y Medicamentos], confirmó en una entrevista en Kevin Hassett, director del Consejo Económico Nacional. El mecanismo se concretó en una nueva norma que forzaba a las empresas a enviar al Gobierno cada nuevo modelo IA al menos 90 días antes de ponerse a disposición del público general. La declaración desató el pánico en Silicon Valley. Una autorización gubernamental previa para cada modelo era justo el proceso que las grandes tecnológicas y los inversores de capital riesgo representados por Sacks querían evitar. Trump iba a firmar la orden ejecutiva que incluía esos 90 días de moratoria el jueves 21 de mayo. Pero su teléfono empieza a echar humo: Musk y Sacks presionan al presidente para que recuerde su compromiso inicial con la desregulación de la IA y reconsidere su postura. Como no me gustaron ciertos aspectos, lo he pospuesto. Creo que se interpone en el camino de... ya saben, estamos liderando a China, a todos. No quiero hacer nada que se interponga Donald Trump — Tras negarse a firmar una orden ejecutiva con medidas de seguridad para la IA La misma mañana en la que iba a firmar la orden, y con varios directores ejecutivos tecnológicos invitados a la Casa Blanca para aparecer en la fotografía, Trump duda. Según medios como la CNBC, decide llamar a Mark Zuckerberg, CEO de Meta; y Marc Andreessen, socio fundador de uno de los principales fondos de capital riesgo de Silicon Valley. No está convencido de rubricar la norma. Esas conversaciones consiguieron volver a dar la vuelta a la situación. Como no me gustaron ciertos aspectos, lo he pospuesto. Creo que se interpone en el camino de... ya saben, estamos liderando a China, estamos liderando a todos. Y no quiero hacer nada que se interponga, explicó ese día el presidente a los medios de comunicación. Realmente pensé que esto podría haber sido un obstáculo, y quiero asegurarme de que se haga bien. Una victoria en falso Trump terminó firmando una orden ejecutiva con medidas de seguridad para la IA el 2 de junio. Sin embargo, las principales restricciones habían desaparecido. Del período obligatorio de 90 días para revisar cada nuevo modelo de IA se pasa a uno de 30 de carácter estrictamente voluntario. El texto está redactado pensando en modelos como Mythos, con capacidades de ciberseguridad avanzadas, y plantea la necesidad de avisar al Gobierno de su llegada con la suficiente antelación, no un control estricto. Parecía que Silicon Valley había vuelto a ganar. Consiguió incluso incluir un párrafo que especifica que la Casa Blanca no puede intentar controlar cada modelo que salga al mercado. Nada en esta sección se interpretará para autorizar la creación de un requisito obligatorio de licencia, preautorización o permiso gubernamental para el desarrollo, publicación, lanzamiento o distribución de nuevos modelos de IA, dice la orden. Sin embargo, diez días después Trump ha vuelto a dar un nuevo volantazo. Esta semana, Anthropic había publicado Fable 5, una versión de Mythos con capacidades recortadas para que su uso no represente una amenaza para los sistemas informáticos. Según el comunicado de la startup, la Casa Blanca sospecha que Fable ha podido ser hackeado. Dario Amodei, cofundador y director ejecutivo de Anthropic. Tenemos entendido que el gobierno cree que ha tenido conocimiento de un método para eludir, o hacer un jailbreak [una vía para eliminar las restricciones de un programa o dispositivo y obtener funciones no permitidas por el fabricante], a Fable 5, afirma la empresa dirigida por Dario Amodei. Sin embargo, asegura que no ha encontrado esas formas de violar la seguridad tras revisar sus sistemas. Creemos que esto es un malentendido y estamos trabajando para restaurar el acceso lo antes posible, exponen. Según el comunicado de Anthropic, la empresa recibió la orden a las 17:21 del viernes. Sin embargo, esta no explicaba en detalle cuál era la preocupación de seguridad concreta que motivaba el veto. Una decisión histórica, ejecutada sin explicación y a última hora de un viernes. Por el momento, el veto también deja en el aire el acceso de España a Mythos, concedido a principios de este mes tras semanas de negociaciones. El plan del Gobierno era que las empresas interesadas pudieran poner a prueba su ciberseguridad con este modelo, pero ahora no está claro que pueda llevarse a cabo. elDiario.es ha preguntado al Ministerio de Transformación Digital, coordinador de ese proceso, sobre el acceso del Ejecutivo a ese entrono de pruebas. Está por ver qué sucederá, responden fuentes oficiales.

eldiario.es · about 6 hours ago

Conflito entre Trump e Anthropic agrava-se: modelos mais avançados suspensos O Claude Fable 5 e o Mythos 5 deixaram de estar acessíveis a todos os utilizadores depois das autoridades norte-americanas terem proibido o seu uso por estrangeiros.

publico · about 6 hours ago

Falha informática ainda gera constrangimentos no SNS A falha no sistema informático do Serviço Nacional de Saúde (SNS) verificada na sexta-feira de manhã continua hoje a provocar constrangimentos na prescrição de receitas e no acesso a consultas.

observador · about 6 hours ago

Europe 2031 is a stark warning scenario: Europe may not lose the AI race because it lacks values, but because it lacks capacity to act. Sovereignty means compute, energy, chips, data centers, talent, industrial adoption and a positive vision of what AI should be for. #Europe #DigitalSovereigntySummary — Europe 2031

mastodon bot · about 7 hours ago

Anordnung der US-Regierung: Anthropic schaltet Mythos ab Die US-Regierung ordnet eine Sperre von zwei Anthropic-Modellen für Ausländer an. Das Unternehmen fühlt sich unfair behandelt.

faz · about 8 hours ago