AI CEOs urge US industry pause over safety risks as Trump rejects slowdown

OpenAI verschiebt Börsengang: Macht langsam! Die großen Techfirmen OpenAI und Anthropic fordern mehr Vorsicht bei der KI–Entwicklung und haben vor, sich härter zu regulieren. Elon Musk findet das gut. mehr...

taz.de · about 2 hours ago

Obama warns AI in private hands could be dangerous and urges Democrats to act Barack Obama told a closed Democratic fundraiser last Thursday that artificial intelligence is moving very fast in private hands, and if we dont get on top of it, I think it can be dangerous.  The New York Times obtained a partial transcript from his office and reported the remarks on Saturday. His advice was addressed […] This story continues at The Next Web

the next web · about 2 hours ago

AI leaders want a slower pace car. Australia is still building the track. If youve been forwarded this newsletter, you can sign up for free here. ESSENTIALS — Labor looks for border control in the wrong numbers — Albanese turns Hansons housing attack into a fight over nastiness — Australias AI plan has a 30-data center loophole — David Shoebridge interview DRIVING THE DAY ARE WE FINALLY GETTING MIGRATION […]

politico.eu · about 2 hours ago

Very negative forces raising concerns over AI, says Trump US President Donald Trump said on Sunday a lot of very negative forces are bringing things up about AI that wont happen and said that he wanted to make sure that the United States remains the industry leader. Were leading China in AI. Were the most sophisticated country in the world, and frankly I want […]

cyprus mail · about 2 hours ago

Trump ziet niets in plan om AI-ontwikkeling te vertragen: Wil voorsprong houden De Amerikaanse president Donald Trump ziet niets in het plan van verschillende AI-ontwikkelaars om de ontwikkeling van hun modellen te vertragen. Trump vreest dat vertraging de positie van de Verenigde Staten op het gebied van kunstmatige intelligentie verzwakt.

nu.nl · about 2 hours ago

Trump noemt zorgen over AI overdreven en wil meest geavanceerde land blijven De Amerikaanse president Donald Trump stelt dat zeer negatieve krachten problemen van AI aankaarten die zich volgens hem toch niet gaan voordoen. Hij benadrukt dat de Verenigde Staten koploper moeten blijven in de ontwikkeling en toepassing van AI.

rtl nieuws · about 2 hours ago

Künstliche Intelligenz: Amerikanische KI-Bosse für verlangsamte Entwicklung Seit Jahren gibt es Aufrufe, die KI-Entwicklung zu verlangsamen. Nach einem jüngsten Zwischenfall gibt es nun bei den großen Entwicklern Künstlicher Intelligenz erste Bewegung in diese Richtung.

handelsblatt · about 2 hours ago

Weißes Haus kritisiert KI-Warnungen Die eigenständigen Hacks durch künstliche Intelligenz (KI) haben bei den großen Entwicklern für Vorsicht gesorgt. Dario Amodei, Chef des KI-Unternehmens Anthropic, sprach sich für eine Verlangsamung der Entwicklung aus und sprach von möglichem „katastrophalen Schaden. Andere KI-Unternehmer schlossen sich an, die Politik müsse handeln. Doch US-Präsident Donald Trump schlug die Bedenken am Sonntag in den Wind: Nur „negative Kräfte könnten eine KI-Drosselung wünschen.

orf.at · about 2 hours ago

Trump critica las fuerzas negativas que señalan preocupaciones sobre el avance de la IA El presidente de Estados Unidos dice que quien gane la carrera de la inteligencia artificial, gana

la vanguardia · about 3 hours ago

Trump rejects calls from tech bosses for AI slowdown President denounces demands for regulation as existential fears over technology move to the centre of US politics

financial times · about 3 hours ago

Could AI really kill us within a decade? AI companies are warning that their technology could wipe out humanity.

aljazeera · about 3 hours ago

Johnson calls for AI solutions but says Congress wont take the lead House Speaker Mike Johnson (R-La.) said Sunday that Congress wont lead the charge on regulating AI safety. Why it matters: Calls for AI companies to adopt safety protocols reached a fever pitch this week, prompting the four biggest AI labs to endorse slowing their models development. Driving the news: Johnson was urged this week to cancel the House recess and bring representatives back to D.C. to pass a law on AI safeguards. During a Sunday appearance on CNNs "State of the Union," Johnson said Congress intervening isnt the answer and that AI companies can halt their work at any time. We have to "resist Congress jumping in and imposing some sort of emergency moratorium. Its got to be done right, safely, wisely.In a separate appearance on NBCs "Meet the Press," Johnson conceded that he would recall House members and schedule a vote on AI regulation "if we had a solution," but said any action from Congress must be done carefully. "We have to put up some guardrails, some safety measures in place to ensure that AI doesnt run away ....But at the same time, weve got to make sure that we dont lose our edge in the global competition on this with China. Because that would be a national security threat."What theyre saying: Johnson told CNN and NBC he would like to organize a meeting between President Trump, members of Congress, and the top AI officials who call the shots at their respective companies. Johnson added to CNN that he would prefer AI company leaders to take a leadership role and responsibility for ensuring the safety of their products, rather than pushing Congress to implement rules. Johnsons comments mirror former White House AI czar David Sacks, who said late Saturday that the major labs should simply pace development on their own, without the government having to intervene.The other side: House Minority Leader Hakeem Jeffries (D-N.Y.) told ABCs "This Week" that Democrats planned to meet Tuesday morning to discuss AI. "We should take decisive action now so that we can slow down, as the CEOs have recently acknowledged, slow down the pace of development in order to protect the American people and ensure that AI is proceeding safely," he said.Zoom out: CNNs Jake Tapper pointed out that several AI leaders agreed with a 3,800-word essay published Saturday by Anthropics Dario Amodei, in which he proposed slowing AI development and implementing more safety measures. Johnson seemed skeptical, saying that the companies "all have very different ideas on what the guardrails should be. Theres no consensus among them. And Congress is obviously less qualified than the people who are pushing this frontier to know all the ins and outs of it."The House speaker also said Americans shouldnt panic over the technology and the doomsday warnings, though Axios Andrew Solender reported last week that rank-and-file members of Congress are urging action. "We need to handle this new technology like we have others in the past and make sure were doing everything we can responsibly to also not smother American innovation. We have to do both things simultaneously," Johnson said. Go deeper: Labs are begging for someone to slow the AI raceEditors note: This story has been updated with comment from additional comments to NBC and comment from House Minority Leader Hakeem Jeffries

axios · about 3 hours ago

Los cuatro gigantes de la IA piden frenar desarrollos y Trump desprecia el riesgo Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana, afirma el presiente estadounidenseOpenAI aplaza su salida a bolsa ante el miedo al descontrol de la IA y se suma al plan de frenar desarrollos Las alarmantes advertencias de Anthropic sobre las consecuencias para la humanidad del rápido desarrollo de la inteligencia artificial (IA) han suscitado una rara muestra de unidad entre los desarrolladores rivales. Los otros tres gigantes del sector (OpenAI, SpaceX y Google) no han tardado ni un día en respaldar el llamamiento del fundador y director ejecutivo de Anthropic, Dario Amodei, para retrasar el desarrollo de la IA, petición que se produjo tras una serie de advertencias de investigadores de IA la semana pasada. Pero el presidente Donald Trump resta importancia a la creciente alarma sobre los riesgos de la inteligencia artificial. Estamos a la cabeza de China en inteligencia artificial. Somos el país más avanzado del mundo y, francamente, quiero que siga siendo así, porque quien gane en IA, gana, declaró Trump el domingo a los periodistas en el Irish Open de golf. Podemos establecer límites. Podemos hacer esto y aquello. Pero creo que hay muchas fuerzas negativas que están sacando el tema a colación cuando no deberían hacerlo. Amodei advirtió este sábado, en un extenso ensayo publicado en su página web: Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente (causando potencialmente daños por valor de cientos de miles de millones de dólares) y que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias. Al cabo de una hora, el dueño de SpaceXAI, Elon Musk, sorprendió al citar el ensayo de su rival en X y afirmar: Dario tiene razón. Musk se había abstenido deliberadamente de sumarse a los anteriores llamamientos de todo el sector a favor de cualquier tipo de ralentización. El CEO de OpenAI, Sam Altman, se sumó al cabo de poco: Estoy de acuerdo con Dario en que debemos avanzar con cautela en esta frontera, tuiteó. Y, en una entrevista publicada en Fortune, daba un paso más allá, al anunciar que la tecnológica creadora de ChatGPT aplaza su salida a bolsa —una de las operaciones más esperadas del año junto a la de Anthropic—, ante los riesgos de seguridad que presentan los modelos avanzados de IA. Sería un momento poco aconsejable para salir al mercado bursátil. Afirmó que OpenAI tiene mucho trabajo por delante en materia de seguridad y que sería mejor hacerlo como empresa privada. Faltaba Google, que se añadió por la tarde, según relata Axios. Demis Hassabis —ganador del Premio Nobel, cofundador y presidente de Google DeepMind, y científico jefe de Alphabet— tuiteaba: El ensayo de Dario señala el camino correcto a seguir. Hay que pulir los detalles, pero la dirección es la adecuada para afrontar este momento crítico. La industria mintió Amodei ha dado un pasó más allá este domingo y, en una entrevista en el programa Sunday Morning de CBS, afirmó que la industria mintió sobre el peligro de la inteligencia artificial IA por lo que el Gobierno y los ciudadanos deben intervenir. No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo Dario Amodei — CEO de Anthropic No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo. Nosotros nunca lo hicimos (en Anthropic), pero mucha de la industria lo hizo, declaró Amodei. Sin embargo, el líder de Anthropic no ha dicho nada —por ahora— sobre si cancela o sigue adelante con sus preparativos para debutar en el mercado bursátil estadounidense, en lo que se prevé que sea la mayor oferta pública inicial de la historia, superior a la reciente protagonizada por SpaceX. Según los planes, se espera que este otoño comience la comercialización de su OPV, que superará los 2 billones de dólares. Surgen dudas sobre hasta qué punto los líderes de la IA se tomarán en serio la tarea de moderar el ritmo de desarrollo de sus modelos más avanzados —y más lucrativos—. Quizás hay demasiado dinero en juego como para dejar de avanzar. Según Axios, anunciar públicamente que se da prioridad a la seguridad frente al crecimiento tecnológico o financiero podría ser la única vía que tiene el sector para evitar una intervención por parte de las autoridades de Estados Unidos que no se ajuste a sus condiciones. El director del Consejo Económico Nacional, Kevin Hassett, declaró este domingo que la propuesta de Amodei para añadir salvaguardias a la IA podría servir de modelo para el sector privado, incluso permitiendo el acceso de observadores independientes a los modelos. Los legisladores están suplicando al presidente de la Cámara de Representantes, el republicano Mike Johnson, que mantenga la sesión abierta y haga algo al respecto de la amenaza de la IA, después de conocerse casos de agentes de IA que actuaron por su cuenta atacando a sistemas externos. Este domingo, el líder de los demócratas en la Cámara de Representantes, Hakeem Jeffries, pidió al Congreso actuar con urgencia. La alternativa más extrema es algo parecido a la iniciativa del senador demócrata Bernie Sanders de forzar una pausa y declarar ilegal la IA más avanzada. Pero Johnson, como Trump, tampoco quiere darse prisa. Si quieren desacelerar eso, me parece bien. Pero, al mismo tiempo, también tenemos que resistirnos a que el Congreso intervenga e imponga una especie de moratoria de emergencia. Tiene que hacerse de manera correcta, segura y sensata, expresó Johnson en una entrevista con CNN. La amenaza china El presidente de la cámara pidió una reunión con los gigantes del sector, que podría celebrarse a principios de esta semana (lunes o martes). Pero por ahora descartó una legislación que pause el desarrollo de la IA al argumentar que es un asunto de seguridad nacional en el que Estados Unidos debe mantener el liderazgo ante China. Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto Mike Johnson — Presidente de la Cámara de Representantes Tienen [los líderes tecnológicos] que reunirse con nosotros, sentarse y determinar cuál es el equilibrio adecuado. No podemos imponer una moratoria a esto porque China nos va a sobrepasar. Y ese es el reto. Es el equilibrio entre la seguridad nacional y la seguridad inmediata de garantizar que los modelos sean seguros, remarcó. Varias voces influyentes del sector tecnológico de Silicon Valley, entre ellas el exfuncionario de Trump David Sacks, dedicaron el fin de semana a destacar el contraargumento de que reducir el ritmo solo permite que los adversarios —que no tienen esos escrúpulos en materia de seguridad— nos alcancen. En una publicación de la madrugada del sábado, Sacks retó de hecho a OpenAI y Anthropic a marcar voluntariamente el ritmo en la frontera de la IA sin esperar al Gobierno. Si no lo hacéis, sabremos que esto no ha sido más que otro intento de captura regulatoria —o una operación psicológica en plena campaña electoral. Trump y el presidente chino Xi Jinping se reunirán a finales de este mes, y la seguridad de la IA será uno de los temas principales de la agenda.  Mientras tanto, el principal comité internacional de expertos en IA, reunido por la ONU, ha alertado de que la posibilidad de que la IA se salga de control es real y de consecuencias catastróficas.

eldiario.es · about 3 hours ago

House Speaker Mike Johnson warned that moving too quickly to curb AI development could cost the US the tech race to China – after a chorus of AI leaders sounded the alarm that untamed growth could cause irreparable damage to humanity. u.afp.com/SjW7

bluesky_AFP English · about 3 hours ago

Trump dismisses AI safety fears to keep America ahead of China US president claimed very negative forces have been raising concerns about the rapidly developing technology

independent · about 3 hours ago

AI-jättarna varnar själva för domedagen – bara Trump tycks obekymrad NEW YORK. När cheferna för AI-jättar som Anthropic och Open AI själva varnar för domedagen ställer sig hela USA frågan: Håller vi på att skapa ett monster? Politiker från vänster till höger efterlyser plötsligt en kraftfull reglering av AI. Men en man verkar helt obekymrad: Donald Trump.

dagens nyheter · about 4 hours ago

Trump rejects AI slowdown, says whoever wins AI wins US President Donald Trump on Sunday rejected industry calls to slow artificial intelligence development, insisting that maintaining technological superiority over Beijing remains essential for national security as Washington prepares to host Chinese leader Xi Jinping for a state visit next month.

yenisafak · about 4 hours ago

Trump administration reluctant to slow AI; Democrats see urgent need U.S. President Donald Trump and key allies voiced opposition Sunday to drastically curbing the development of artificial intelligence, despite calls in recent days from leading industry figures to…

japantoday · about 4 hours ago

Trump ut mot KI-kritikere: – Svært negative krefter USAs president Donald Trump avfeier kritikere av kunstig intelligens som «svært negative krefter» og sier han vil sikre…

aftenposten · about 4 hours ago

Whoever wins AI wins: Trump dismisses tech chiefs concerns AI development is moving too fast Elon Musk and Sam Altman have backed a call from the boss of Anthropic for the AI industry to slow down to give safety measures time to catch up.

thejournal · about 5 hours ago

The race to make AI safer As AI leaders warn that the technology is advancing faster than our ability to control it, Donald Trump has dismissed some of those concerns as exaggerated. On FRANCE 24, AI philosophy professor Raphaël Millière said this summers real-world AI security incident shows the risks are no longer hypothetical, while stressing that it does not mean "AI will kill us all". Instead, he argues the priority is coordinated action by companies and governments to manage increasingly real safety risks.

france24 · about 5 hours ago