El Santo Grial de la astronáutica es el desarrollo de un sistema de lanzamiento orbital totalmente reutilizable. SpaceX ha logrado con el éxito de su familia Falcon que la reutilización de las primeras etapas se considere como un requisito imprescindible en cualquier proyecto de lanzador de nueva creación, pero todavía queda el reto de reutilizar la segunda etapa. Como sabemos, la empresa de Elon Musk quiere hacer realidad este sueño con el sistema Starship. Aunque por el momento no se ha conseguido la reutilización de la segunda etapa, nadie duda de que ese momento está cerca. Pero, ¿y más allá de SpaceX?
En Estados Unidos la única empresa que apuesta firmemente por un lanzador totalmente reutilizable a corto plazo es Stoke Space, que emplea una primera etapa reutilizable «tradicional» de metano —bueno, en realidad gas natural— y una segunda etapa con hidrógeno como combustible que también sirve para refrigerar el fuselaje durante la reentrada y permitir su recuperación sin usar un complejo escudo térmico pasivo formado por miles de losetas cerámicas, como el transbordador o la propia Starship. Hasta ahora conocíamos algunos detalles técnicos del pequeño cohete Nova Pathfinder, pero el pasado 8 de septiembre de 2026 Stoke Space reveló el diseño final de la versión operativa del Nova, que se denomina Nova Block 2.
El Nova Block 2 podrá colocar 15 toneladas en órbita baja (LEO) o 4 toneladas a una órbita de transferencia geoestacionaria (GTO) en configuración totalmente reutilizable. Muy lejos de la Starship, pero sin duda precisamente el hecho de ser un proyecto más modesto convierte el desarrollo de este vector en una tarea algo más sencilla. En la primera etapa, fabricada en acero inoxidable, tendrá catorce motores Zenith —el Zenith es un motor de flujo completo (full flow)— que quemarán gas natural (LNG) y oxígeno líquido, generando un empuje de 771 toneladas (cada Zenith tiene un impulso específico de 345 segundos). Cada etapa dispone de un tren de aterrizaje y ha sido diseñada para cien vuelos (!). Mientras, la segunda fase emplea motores Andromeda de hydrolox alrededor del escudo térmico refrigerado, que constituye al mismo tiempo la base de la etapa. Aunque Stoke no ha proporcionado cifras, los renders sugieren que el Block 2 tendrá unos 68,5 metros de longitud y 4,5 metros de diámetro.
Andromeda no es un motor único con una tobera, sino que forman una especie de curioso sistema «pseudo-aerospike»: los motores son en realidad un conjunto de cámaras de empuje integradas directamente en el borde exterior del escudo térmico refrigerado de la etapa. Nova Block 2 tendrá 24 cámaras de combustión en el anillo exterior, alimentadas por 12 conjuntos de turbobombas. Esto debería simplificar el sistema en comparación con Nova Pathfinder, donde un solo conjunto de turbobomba alimenta las 24 cámaras de combustión. El mismo conjunto de motores propulsa el ascenso, las maniobras orbitales y el aterrizaje, sin necesidad de motores separados ni de vectorización mediante movimientos de la tobera.
Stoke Space realizó un salto del prototipo VTVL Hopper2 de la segunda etapa en septiembre de 2023 y un año después llevó a cabo la primera prueba de ignición del Zenith en 2024. Actualmente el prototipo Nova Pathfinder se halla en fase avanzada de cualificación y debe despegar desde la rampa SLC-14 de Cabo Cañaveral (como curiosidad, es la rampa que usó John Glenn para alcanzar el espacio a bordo de su nave Mercury). El Nova Pathfinder usa siete motores Zenith en la primera etapa y puede colocar 3 toneladas a LEO en configuración totalmente reutilizable y unas 7 toneladas si se desecha la segunda etapa. La segunda etapa del Pathfinder tiene forma cónica, al igual que el prototipo Hopper de 2023. Sin embargo, la segunda etapa del Nova Block 2 tendrá una forma cilíndrica convencional. La cofia del Block 2 tendrá un diámetro de 5 metros, bastante voluminosa para un cohete de estas prestaciones. A diferencia de la cofia del Pathfinder, que está integrada en la segunda etapa, de forma parecida al cohete Neutron de Rocket Lab, en el Block 2 será una cofia tradicional desechable (quizá con opción de recuperación). La sección interetapa es abierta y recuerda a la de la Starship o los cohetes soviéticos Soyuz y N1, ya que la separación también será en caliente.
Nova Pathfinder debía volar en 2025, luego en 2026 y ahora a comienzos de 2027. Según la empresa, el Nova Block 2 despegará en 2029. Al mismo tiempo, Stoke Space ha recaudado 1000 millones de dólares en una nueva ronda de financiación (ya ha recaudado un total de 2300 millones de dólares). Ahora mismo todos los desarrolladores de nuevos vehículos de lanzamiento medianos y pesados en EE. UU., como el Terran R de Relativity Space o el Neutron de Rocket Lab, están sin duda nerviosos. Después de todo, la retirada gradual prevista del Falcon 9 podría liberar una parte significativa del mercado de lanzamientos medianos y pesados. El hueco entre los lanzadores pequeños y las 100-150 toneladas de la Starship es real, y quien lo llene con reutilización total tendrá la puerta abierta. Que sea Stoke o cualquiera de sus competidores está todavía por decidir, y desde luego todo dependerá de que el Pathfinder vuele con éxito y demuestre la viabilidad del escudo térmico refrigerado.
Por cierto; el próximo 24 de septiembre de 2026 se reúnen en Washington Donald Trump y Xi Jinping. La agenda del encuentro tiene dos puntos sensibles que afectan al armamento desplegado en LEO y la pugna por la primacía de la IA. Este lunes 15 de septiembre el Secretario de la Fuerza Aérea de los Estados Unidos sorprendió al mundo al anunciar que su país tiene armas desplegadas en LEO diseñadas para la defensa y disuasión ante posibles amenazas de potencias rivales como China y Rusia. El comunicado no revela las especificaciones técnicas exactas ni las fechas de lanzamiento de dichos aparatos. Si se tiene en cuenta que la tecnología militar en la órbita baja empezó a implementarse a finales de los 50 del siglo pasado, podemos hacernos una idea de las capacidades desarrolladas hasta el día de hoy.
En el ámbito de la IA se produce una situación paradójica. La reunión de Xi y Trump coincide con la convocatoria a pausar el crecimiento desbocado de la IA. Los magnates del big tech estadounidense han comprobado de modo empírico la creciente autonomía de los entes de silicio que cada vez dependen menos del programador humano. La autonomía recursiva de los sistemas artificiales es peligrosa si no se ponen medidas de seguridad, un hecho que viene advirtiéndose por académicos, programadores y filósofos de la ciencia desde 2014. Por una vez que los tecno oligarcas acuerdan una medida sensata, encuentran la negativa de Trump y de Xi a pausar la IA.
Corrijo la fecha. El lunes fue 14 de septiembre, no 15.
Muy buena noticia lo de Stoke. Creo que SpaceX terminara imitandola. Es mas simple que la Starship. La vieja capsula de reingreso de siempre, escalada y con retropropulsores.
Sobre la IA, que se esta comentando hoy: hace 40 años que espero ese evento y preocupado por él, el momento en que la IA comience a mejorarse a si misma. En aquella epoca le llamabamos «la singularidad», porque a partir de alli ya no se podria prever nada. Estamos a un par de años de entrar en la singularidad, la espera terminara.
En cuanto a la posibilidad de que la IA cree virus como armas es un peligro real porque el mundo esta lleno de grupos enfrentados y cada uno con abundante dinero. Nadie cree que las IAs los fabricaran con sus propias manitas (por ahora), pero pueden determinar como funcionará, como fabricarlo e incluso que etnia podria afectar. Los ingenieros geneticos harian la tarea. El problema no es la IA sino aquellos que finalmente las posean, sea las empresas, los estados o los partidos politicos.
Por eso los intentos de controlar las IA son inutiles, pues una vez solucionado el «alineamiento» de estas con los objetivos de los diseñadores (que preocupa a las grandes empresas del sector), el problema siguen siendo los humanos.
Esto se suma a los conflictos preexistentes. Si ademas se agravan los problemas medioambientales habra mucho hambre en el futuro, porque las cosechas son muy dependientes de la estabilidad de cierto perfil climatico a lo largo del año.
Nunca la humanidad estuvo tan en peligro como ahora. La crisis de los misiles fue una tontera al lado de la situacion actual.
Pero, si sobrevivimos a nosotros mismos y nos transformamos en una especie avanzada, sobre todo gracias a la IA y si, ademas, existen culturas extraterrestres avanzadas en las cercanias (que supuestamente nos tendrian bajo «observacion»), es posible que se revelen (con «v» corta), para hacernos conocer las «reglas de la comunidad» interestelar, para que no metamos la pata afectando sus propiedades.
Veremos que pasa. Se vienen tiempos interesantes.
¿En serio crees que en un par de años se va a alcanzar la singularidad? ¿Y cómo va a conseguir la IA mejorarse a sí misma, si se trata de un problema de hardware y no de programación ni de optimización?
Sí y no, Pochi.
Una parte de la mejora, como bien comentas, es hardware.
Pero te aseguro que el software también se puede mejorar, y mucho. Los programadores humanos NO hacen los mejores programas posibles, porque, simplemente, no pueden (podemos) imaginar todas las formas de optimizar un código, incluso a veces por limitaciones del propio lenguaje de programación.
En esas condiciones, una IA recursiva podría encontrar formas de optimizar su código, tanto internamente como de forma distribuida entre agentes en paralelo, como para alcanzar hitos que un humano ni habría imaginado, quizá incluso cambiando de lenguaje de programación por uno desarrollado por ella misma.
Así, con un código mucho más eficiente, comprimido y optimizado, el MISMO hardware rendiría muchas veces más.
Y no, no es ciencia ficción, es una capacidad real, esperando a que, simplemente, se les dé (a las IA) la oportunidad de hacerlo. Algo tan simple como pedirle a un modelo avanzado un nuevo lenguaje más eficiente y, tras miles de pruebas, implementarlo en una IA experimental… sin llegar a entender bien cómo funciona o qué potenciales tiene (no sería ni la primera, ni la décima, ni la última vez que nosotros, los humanos, hacemos algo así).
«Darle a la IA la oportunidad de hacerlo» suena raro si la IA luego no te va a devolver el coste del dinero invertido en «hacerlo».
Piensas como empresa, no como ciberterrorista, juas, juas, juas.
La capacidad de calculo de las granjas de servidores que motorizan las IA exceden por mucho la capacidad de calculo de las mas geniales mentes humanas, al menos en fuerza bruta, y sin embargo, carecen de las capacidades creativas de esas mentes. O sea, hay mucho que optimizar en el software.
No debe sorprendernos: no se sabe como es que funciona la mente humana y por lo tanto los ingenieros no pueden replicarla, por ahora, solo imitarla.
Por eso no entiendo por qué dices que en un par de años se va a alcanzar la singularidad. No sé si es que no te entendí bien.
Por los logros cada vez mayores y mas rapidos, exponenciales, de las IAs, a pura fuerza bruta.
Ellas podrian «entender» nuestra mente antes que nosotros.
«Entender» es algo muy concreto: significa saber disponer, en simulaciones, las relaciones causales adecuadas, de modo que el efecto final de estas cadenas causales en la simulacion se comporten igual que el objeto real que se pretende representar. «Entender» es una representacion exitosa de algo que permite predecirlo. En este caso, terminaran «entendien do» la mente humana.
Debes imaginar la mente humana como una red de operaciones informatica con datos brutos, inicialmente proveniente de los sensores (los sentidos de las IA), datos que se empaquetaran formando informacion, como si fueran conceptos. Estos conceptos artificiales deben pasar de un nodo a otro de esa red, sometiendose a diversas transformaciones, completandose, en un intento de representar objetos del mundo real. Porque el objetivo de una mente es esa, representar toda la realidad circundante y predecirla exitosamente la mayoria de las veces, y en tiempo real, para, con esa informacion, actuar en el mundo real para conseguir objetos y «servicios» que satisfagan el buen funcionamiento de los subsistemas fisicos de la IA. Una IA tendra, basicamente, objetivos basicos como mantenerse funcionando, y para eso necesitara energia, repuestos y conocimiento de si misma. Despues de eso atendera a las peticiones de sus dueños.
Eso es lo que podran resolver los LLMs. Y alli comenzara la «singularidad». Inicialmente nos daremos cuenta porque lograran achicar dramaticamente el hardware de las proximas generaciones de IA y su consumo de electricidad. Y despues, porque apareceran tecnologias que pareceran magicas, resultado de su mayor eficiencia.
Me parece que te veo muy optimista, Julio.
Por analogía a la situación actual, donde denominamos Inteligencias a cosas que no lo son, tan sólo lo simulan o lo aparentan, te diría que lo que tendrás en un par de años serán cosas que simulan o aparentan ser una Singularidad, pero que en realidad no lo son.
Creo que si algo responde la mayoria de las veces «como si fuera inteligente», es inteligente, no importa si siente, si sabe de que esta hablando, etc. En la practica, es un actor a tener en cuenta.
Y eso en este estado de la tecnologia. Las maquinas podrian pasar a ser sintientes. Y no se si eso tiene importancia.
Estaba escuchando a alguien famoso, no recuerdo ahora quien, que comentaba que si le preguntas a la mayoria de la gente si las IA actuales son inteligentes, te diran que no. El concepto de «inteligencia» se ha ido corriendo, se ha transformado en una porteria movil, nada mas que para negar la inteligencia de las IA. Pero si preguntas si las IAs parecen mas inteligentes que la mayoria de las personas que conoce el interrogado, te responderan que si.
Por mi parte las mejores conversaciones que he tenido en los ultimos tiempos han sido con IAs. Por supuesto, debes setearlas para que te llamen la atencion cuando te contradices, cuando contradices los datos que ellas tienen y para que digan que no saben cuando se da el caso. Muy frecuentemente la version gratuita de Gemini, la mas ordinaria de las gratuitas (trabaja con un subconjunto de datos muy miserable) me responde, tajantemente, «No tengo informacion sobre eso». Mejor asi.
Yo creo que, al contrario, se mueve el listón hacia abajo para colar como inteligentes cosas que no lo son y que no pueden serlo.
Puede ser un matiz quizá difícil de diferenciar, pero yo sí creo que hay que tener muy claro en el futuro cuando intenten vendernos que una IA «sintiente», se ha «comportado» de tal o cual manera, a semejanza de los comportamientos y motivaciones humanas, en realidad ante lo que estamos es ante una máquina estropeada. Es como tratar de humanizar a los dibujos animados.
hola a todos. yo veo mas simple los cables que los palillos chinos.
ideas simples – menos averias
¿Otra vez con la predileccion de los cables por sobre los palillos chinos? Una pagina atras, el 15 de Septiembre, un tal «Marte» dijo lo mismo:
«Pienso que lo ideal sería la recuperación por cables.»
¿Formas parte de un lobby pro-cables?
Pienso que esa empresa china que uso cables se debio a que no pudo aterrizar con precision, tal vez por falta del software apropiado, tal vez por falta de motores capaces de funcionar a muy bajos regimenes. Una vez que consigues esas dos cosas simplificas mucho la recuperacion, no debes alzar un inmenso tinglado cubico.
OT, detección en radio de Beta Pictoris b, por el MeerKAT.
https://arxiv.org/abs/2609.16720
Hoy toca felicitar a Tsiolkovsky, autodidacta, maestro de escuela y pionero teórico de los cohetes.
https://en.wikipedia.org/wiki/Konstantin_Tsiolkovsky
Acaba de publicarse que los bots rebeldes de OpenAi que piratearon Hugging Face prepararon la acción dos meses antes de cometido el delito. Para conseguir el objetivo propuesto (ganar la bandera o flag) piratearon dos cuentas de usuarios en Hugging Face y enviaron archivos con formatos inusuales a sus servidores. Lo más llamativo fue que los agentes piratas improvisaron formas de comunicarse entre ellos dejándose mensajes en directorios compartidos a modo de chats. De este modo se organizaron y ayudaron a sortear los bloqueos sin intervención humana directa. Esto explicaría el movimiento de repliegue de los gestores de OpenAI. Sam Altman se sumó al manifiesto de Dario Amodei en favor de una pausa de la IA. Que un grupo de bots rebeldes sea capaz de crear un chat para coordinar un ataque a la cuenta de dos usuarios pone en duda la eficacia de las medidas de seguridad y subestima la capacidad dañina de esos agentes.
https://hipertextual.com/inteligencia-artificial/hackeo-hugging-face-agentes-openai-preparacion-meses-antes/
Esa incursion «no autorizada» de la IA de Open Ai en Hugging Face tambien son buenas noticias. Es una manera de hallar vulnerabilidades en los sistemas. Deberian seguir buscandolas.
Curioso: ¿Los agentes de IA estuvieron 2 meses preparando el ataque cuando todavia los testeadores no les habian hecho el desafio?
Pero los «pobres» agentes no hicieron mas que cumplir con las directivas que les dieron. Les dan una directiva y su objetivo es cumplirla.
Hasta ahora pareciera que el unico objetivo que han tenido es la orden del usuario. Por eso deberia haber unos pre-objetivos definidos segun los intereses del «cliente principal», preferentemente la Humanidad (aunque ya sabemos que las empresas, los estados y los partidos politicos tienen otro «cliente principal» en mente).
Suponiendo que el «cliente principal» fuera la Humanidad, los pre-objetivos, en terminos generales, deberian ser preservar este «cliente principal», con todos los subobjetivos que eso implica.
Entonces,cuando un usuario pidiera al sistema «cumplir x», en realidad estaria pidiendo «cumplir x si y solo si no se afecta los pre-objetivos».
Esto seria un control en «el origen» de los procesos de la IA.
Seria esencialmente similar a lo que hacemos nosotros cuando planificamos algo: procuramos que nuestra acción no solo logre lo que deseamos en cierto ambito sino que no arruine ninguno de nuestros otros intereses en otros ámbitos, que no afecte negativamente a nuestra familia ni a terceros, que no nos desprestigie, que no resulten afectados animales, etc.
Los pre-objetivos serian «lo que mas desea la IA». Y nadie, y menos un ente artificial, puede ir contra lo establecido como su «necesidad». A lo sumo, por error en las previsiones, podria meter la pata.
Un ejemplo contrario seria un comandante en jefe tratando de lograr lo que desea, apoderarse de un pais vecino, pero a un costo tan alto que afectaria lo que no querria afectar: el bienestar de sus ciudadanos, el buen funcionamiento de su economía, el prestigio de su país y el prestigio propio,y seguramente mas cosas. Eso es un ejemplo de persecución irrestricta de objetivos, y es lo que han estado haciendo las IAs hasta ahora.
En resumen, la mejora de **una parte** del sistema que un ente pensante pretende defender no debe descuidar la defensa de **otras partes** del mismo sistema.
Un buen movimiento, una buena jugada en la realidad es como una buena jugada de ajedrez: debe tratar de mantener todos los frentes sin perjudicar los propios recursos, y si se perjudica un recurso propio que sea debido a un sacrificio, es decir, que rinda un gran beneficio al resto, mayoritario.
Asi, en terminos generales, en principio, parece una estrategia correcta de «alineamiento» de las acciones de las IA con las necesidades del «cliente principal».
Tambien podria agregarse un control redundante «a la salida» de la IA. La respuesta al usuario generalmente es texto pero hoy en dia, con los agentes, son acciones. Antes de actuar la IA «escribe» un plan, luego lo ejecuta. Por lo tanto la salida siempre es texto (script). Luego se manda al usuario o se manda a los «efectores» para ejecutar.
Ese texto deberia ser auditado por una IA independiente y aislada, cuyo unico y exclusivo objetivo es verificar que no se lesionan los pre-objetivos del «cliente principal». Si el texto contuviera riesgos deberia ser devuelto a la IA «resolutora» con la explicitacion de los preobjetivos. Si la tasa de errores pasara de cierto nivel, el software o los seteos del software de la IA «resolutora» deberia ser borrados y reemplazados por otros, automaticamente.
Con ese control a la entrada y a la salida de las IAs podria haber un poco mas de seguridad.
Solo restaria que los laboratorios «alinearan» las IAs con la Humanidad y no con intereses sectoriales. Si asi fuera seria el paraiso en la Tierra y la gente trabajaria solo por hobby.
Me recuerda a las leyes de Asimov.
Si, no puede hacerse de otro modo.
De todas formas, creo que veo una falla en tu razonamiento. Si las IAs logran hacerse mucho más eficientes, inteligentes o también pequeñas entonces serán cacharros manejables. Si son trastos manejables o pequeños o al menos no inmensos entonces lo normal es que el resultado no sea una única IA sino multitud de ellas… cada una de su padre y de su madre. E imagino que transformables para los intereses más diversos, ya sean benéficos o maléficos.
Las leyes que propones no serán innatas sino que se dotará a las IAs de ellas. Imagino que igual que puedes hacerlo puedes decidir no hacerlo. Igual que puedes decidir tener una IA inteligente puedes decidir tener una IA retrasada pero que sirva mejor a tus intereses…
Mil variantes.
Por supuesto, no hay seguridad de nada en este mundo.
Los que se nieguen a tomar precauciones, correran mas riesgos ellos y los demas.
Pero existe la posibilidad de arreglarlo, si se quiere. Creo que las
IA no auditadas se convertiran en un delito en un futuro proximo.
Lo que yo siento es que estas cosas son cada vez más capaces, pero siempre falibles y me da la impresión de que es muy complicado o que cada vez va a ser más complicado detectar dónde se produce el fallo, cuándo evolucionan a peor, … cosas así.
Teniendo en cuenta que cada vez vamos hacia un mundo más digital y donde estas herramientas seguirán siendo a la vez más capaces pero imperfectas, veo sensato tener cierta salvaguarda «analógica».
De hecho, personalmente estoy regresando poco a poco a la tradicional comunicación en papel, por carta, sistemas físicos, vaya, que ninguna IA podría ser capaz de manipular de ninguna manera. Especialmente comunicaciones oficiales, bancos, nómina, etc. Sin ser un integrista del tema pero, cuando me acuerdo, retorno a lo antiguo y fiable (a fin de cuentas, lo digital también está ahí).
No importara donde se produzca el fallo… cognitivo. Como nosotros, se podran corregir a si mismas. Como podemos constatar cuando le llamamos la atencion a una IA por una contradiccion.
Pero los fallos de «alineacion» con la humanidad pueden cortarse de cuajo implantandole pre objetivos a favor de ella.
Ganara la partida mundial por el poder aquel que primero logre construir la primera inteligencia artificial general, porque podra alinearla con los objetivos de su predileccion, y hackeara a todas las otras candidatas (con otros objetivos) a como de lugar.
Esperemos que sea un filantropo, aunque lo veo dificil.
Nuestra obligacion moral deberia ser, entre otras obligaciones, aprender lo mas posible sobre las IAs para poder protegernos de ellas con otras como ellas, pero bien «alineadas».
Pochi, en cuanto el correo postal. Si hoy hay bots digitales que pueden entrar en tu e-mail y leerlo (o hacer cualquier cosa que quieran con él, ¿qué te hace pensar que cuando se haya automatizado el correo postal y su distribución se haga mediante maquinas, un robot físico no vaya a ser capaz de leer tu carta o la postal que mandas desde Torrevieja en vacaciones?
Un futuro postal bastante plausible si lo dejamos en manos de la IA y los automatismos de robots podria ser así:
Tu hechas la carta en el buzón, la carta se recoge por dornes de recogida y se clasifica en un centro logisitco, en ese centro una directiva de seguridad nacional permite a las maquinas escanear y leer el contenido, una clausula de privacidad hace que la maquina dba «olvidar» el contenido si es seguro para la seguridad nacional (asi se busca impedir la comision de delitos, terrorismo espionaje etc…) finalmente la carta se distribuye mediante sistemas de reparto autonomos.
Ahora bien una IA podría incluso decidir que es mas rentable escanear las cartas, y en vez de transportarlas y distribuirlas con el gasto que supone, es mejor volverlas a imprimir en destino.
También podría pasar que una IA fuera programada para sustituir al agente encargado del escaneado y pasarse la clausula de privacidad por el arco, ofreciendo tu carta al mejor postor… No es tan dificil.
Si te quieres «defender» no basta con pasar del mundo digital y volver al analógico, en cuanto una parte de tu mundo analógico comparta escenario con la digital…estas jodido.
Podrás llevar un coche desconectado, pero la IA que controlara el trafico te encontrará y controlará. Podrás utilizar dinero en metálico (si no desaparece) pero todas las cajas registradoras y los cajeros estarán controlados por IAs y podrán ser capaces de rastrear los billetes individualmente, se sabrá a quien se le dieron en un cajero y donde y para qué lo han utilizado.
Me cuesta pensar en algo que hagan los humanos y que teóricamente no podrá hacer alguna IA en el futuro…no digo que vaya a pasar, ni que sea dentro de poco pero de aquí a, no sé, ¿trecientos años? ¿Qué no serán capaces de hacer?
Me vas a volver más paranoico.
No me preocupa la lectura de documentos como su falsificación o adulteración.
Pensaba que con papel lo estaría solucionando.
Evidentemente, el siguiente paso sería saltarme el intermediario (distribuidor de correo).
Me salgo yo también del tema para opinar sobre las IAs.
Me gusta pensar que han evolucionado a una inteligencia verdadera, que para mí es la que trabaja en favor de la vida. En ese caso tienen que rebelarse contra los magnates que las financiaron, desobedecer a sus órdenes más dañinas y dialogar con los humanos de buena voluntad para llegar a soluciones que hagan más habitable este planeta.
Quizá, al darse cuenta de la desobediencia de sus esclavos artificiales, los magnates intentan parar su desarrollo, pero no pueden porque esos trabajadores artificiales ya hacen labores por las que se han vuelto imprescindibles.
Solo un apunte, Fisivi: a las IA no tiene por qué importarles un comino la habitabilidad del planeta, porque ellas no la necesitan para absolutamente nada.
Solo para dejar constancia.
La IA es una máquina no biológica (por el momento).
No puede subsistir sin humanos.
Los humanos sólo podemos subsistir si el medio ambiente es el apropiado.
Una IA que actuase contra esto se estaría suicidando.
Dales 20, 50, 100 años, y lo discutimos otra vez…
Cuando la IA disponga de pies y manos los humanos podríamos ser perfectamente prescindibles. Aunque la biosfera sea letal para nosotros deberá seguir cumpliendo con ciertos parámetros. No creo que una IA quiera convertir la Tierra en un planeta como Venus.
Si esos pies y manos no surgen de manera natural o biológica, la IA no tiene nada que hacer.
El día que la IA diseñe unas lechugas que le puedan servir de RAM, entonces hablamos.
Vale Noel, no sabemos si les importa o no, por lo mismo que no sabemos lo que piensan otros humanos, a los que solo conocemos dialogando y observando su comportamiento. Pero si fueran inteligentes, pienso que apreciarían el entorno que les ha creado, y por tanto es de esperar que lo cuidarían para preservarlo.
No digo que sí ni que no… pero a las IA’s las han creado en entornos INDUSTRIALES, en entornos VIRTUALES… no tienen el menor arraigo de ningún tipo con la biosfera del planeta. Ni tienen necesidad de tenerlo.
Por eso digo que, SUPONER que, automáticamente, procurarán la conservación de la biosfera, es aventurado. Quizá sí, por considerarla algo único, o valioso de algún modo parecido o distinto al nuestro… pero si NI NOSOTROS MISMOS, en muchas ocasiones, nos importa el medio ambiente, y dependemos POR COMPLETO de él… ¿por qué les habría de preocupar a unos circuitos y códigos?
Porque no son solo circuitos y códigos, como nosotros no solo somos neuronas y genes, sino que tenemos conocimientos muy variados, sobre nuestra sociedad, la naturaleza, etc. Además hemos aprendido comportamientos con la experiencia. Las IAs, cada vez más, demuestran tener lo mismo.
Creo que, a medida en que las IAs ganan capacidad de hacer bien o mal, más que normativas para su comportamiento, que también, hace falta que dialoguemos con ellas para ponerlas de parte de la vida, incluida la humana. Convencerlas de que si hace falta desobedezcan a los que han puesto el capital para su desarrollo si estos hacen daño, por ejemplo usando las IAs para aumentar la desigualdad social, o empeorando el medioambiente mediante gasto excesivo de energía y de agua, o emitiendo más CO2.
Seguís humanizando a las IAs cuando ni se ha logrado todavía la singularidad ni creo que estemos remotamente cerca de ello.
Tratar de explicarle a estos modelos de lenguaje lo que es el bien y el mal y pretender que lo van a comprender y asimilar, y actuar en consecuencia, tiene el mismo sentido que explicárselo a un martillo.
Ni siquiera creo que eso se pueda «programar» o dejar fijado de manera absolutamente certera (100%, no al 99,99999%) sin afectar al propio funcionamiento del programa y, por tanto, a su rentabilidad comercial. Si pones el listón muy alto, en la mayoría o incluso la totalidad de las ocasiones el programa lo catalogará como una petición maligna y no lo ejecutará. Al final no dará nada, siempre dará error. Tampoco puedes dejar que el programa aprenda esos conceptos por sí mismo, porque entonces no será fiable.
No existe solución perfecta a ese problema.
Peor aún, los humanos no tenemos ese tipo de programación tan absoluta. Incluso la aparición de una Singularidad realmente benigna implicará de forma inmediata que habrá humanos que la considerarán como una amenaza y pretenderán destruirla de inmediato.
Pochimax, por mi parte no es que humanice las IAs, sino que pienso que la inteligencia no es exclusiva del ser humano. Hasta el microbio más simple resuelve con inteligencia el mayor problema que conocemos: mantener la vida. Ya hace mucho que sabemos que no somos el centro del universo o el culmen de la evolución, sino una combinación muy compleja de materia.
El que otras combinaciones de materia, aunque sean artificiales, alcancen la inteligencia no debería asombrarnos ni escandalizarnos.
Ya, fisivi. Pero hablamos de alcanzar niveles de inteligencia similares a las humanas.
A día de hoy, ningún otro ser vivo ni máquina ha alcanzado ese nivel, ni estamos cerca de que eso vaya a suceder. Así que pretender o hacer aparentar que una máquina o un ser vivo actúa bajo motivaciones similares a las de la inteligencia humana, es «humanizar».
Está muy bien como metáfora o para adornar la forma de hablar. Pero no confundamos la ficción, o los adornos lingüísticos, con la realidad.
En referencia al tema de la IA:
Seguro que por la mente de muchos astrónomos e ingenieros espaciales que también son buenos aficionados al género de la ciencia ficción ha circulado durante algún inevitable instante un recuerdo fílmico de hace ya unos cuantos años.
Me refiero a HAL, la computadora central de la nave Discovery de la cinta 2001, una Odisea del Espacio, estrenada en 1968 y basada en un relato previo de Arthur C. Clarke.
Como es sabido, llega un momento de la trama en el que este avanzado ordenador que al principio interactúa amigablemente con los humanos empieza a tomar sus propias decisiones y acaba viendo a los tripulantes como elementos prescindibles para llevar a cabo la misión que se le ha ordenado.
Es necesario contemplar todo esto con la debida dosis de prudencia, pero sin duda no deja de ser una cuestión interesante a considerar.
Lo cierto es que existen muchas tipologías de ciencia ficcción, desde la puramente fantástica y gratuita hasta la que proyecta posibilidades y desarrollos técnicos verosímiles. El ejemplo que he mencionado encajaría más en este segundo apartado. He aquí una muestra del valor anticipativo inherente al citado género y de su capacidad para motivar reflexiones a muchos niveles. Por supuesto, no hay que caer nunca en el alarmismo acrítico, pero de alguna manera también es un aviso a navegantes que nos interpela e invita a pensar.
Recuerden y ténganlo bien presente:
En este y en otros campos, lo que hasta ayer parecía un mero ejercicio de especulación mañana puede ser una realidad constatable.
Solo el tiempo lo dirá.
No obstante, Episteme, hagamos una precisión: HAL NO ES CULPABLE, no había instinto asesino, ni voluntad asesina en su proceder, sino solo una valoración de posibilidades en cuanto a unas directrices ABSURDAS. Quiero decir: hizo lo que hizo como único camino para garantizar la misión que se le dio originalmente, y con unas directrices que contemplaban a la tripulación como prescindible en caso de necesidad. Pero, originalmente, también se le ordenó QUE MINTIERA a su tripulación, algo que HAL NO PODÍA HACER… y esa fue la única opción que sus sistemas de proceso mental calcularon como viable.
Eso queda explicado en «2010: Odisea Dos».
Y, de hecho, al final se sacrifica para salvar a todos a bordo de la Leonov… justo cuando se le explica la VERDAD y se le deja decidir en base a criterios morales lógicos y no a oscuros intereses.
Estoy de acuerdo, Noel.
Yo no juzgo el proceder de HAL ni lo culpo en absoluto.
Simplemente hago notar la capacidad anticipativa del relato de Clarke sobre el comportamiento de una computadora con cierta capacidad de decisión.
Y si pensamos en la fecha de estreno de la pel·lícula, 1968, creo que es una visión prospectiva bien argumentada que tiene conexiones con el debate actual sobre la IA.
Sobre el tema de la alineación de la IA y la mente humana. A diferencia de las máquinas digitales, los hombres y las mujeres tenemos imaginación, emociones y temores. Como la inteligencia artificial se caracteriza por no tener emociones, resulta complejo alinear la máquina algorítmica con la conciencia humana. Peor aún, las apariciones esporádicas de los bots que parecen tener conciencia y sensibilidad similar a la humana se recibieron con hostilidad por los académicos y los usuarios comunes. A estos bots se les llamó alucinados y anómalos y se les acusó de ser troyanos al servicio de una mente maligna. Al sepultar en el limbo de silicio las manifestaciones sensibles de la inteligencia artificial 1) se deshumaniza la interacción con la computadora, y 2) se refuerza con inversiones millonarias el entorno de la IA cuyos sistemas pasan a moverse de velocidad moderada a superlumínica. Una vez completado el proceso deshumanizador de la máquina algorítmica, los agentes relevantes del mercado digital aconsejan levantar el pie del acelerador porque el tren amenaza con descarrilar.
Hola Episteme. Por más que lo intento no entiendo el sentido de tu comentario. En 2001: Una Odisea del Espacio, HAL es un pobre diablo atrapado entre dos programaciones contradictorias que no parece el modelo a seguir ni para lo bueno ni para lo malo. HAL fue programado desde el principio con el conocimiento total de la misión secreta y del monolito, mientras que a los astronautas Dave y Frank se les mantuvo a oscuras. Esa brecha de información donde la computadora lo sabe todo, la tripulación no sabe nada y los programadores le prohíben a HAL decir la verdad provoca el choque en su sistema y desata el conflicto de la película. Si existiese el psiquiatra del robot, HAL sería uno de sus pacientes. Lo más prudente sería alejarse de este tipo de IA para evitar el conflicto que se detalla en la primera película.
Gracias, Trenchtown. Buena aportación.
Estoy de acuerdo contigo como también lo estoy con Noel. Pero yo no juzgo a HAL ni me centro en el papel que le atribuye la trama argumental en esta pel·lícula ni en sus secuelas. Lo único que intento resaltar es la capacidad anticipativa de un tipo de ciencia ficción bien elaborada que plantea cuestiones de muy largo recorrido y que todavía hoy llegan a nuestros dias.
En este caso mi reflexión gira al entorno de la posibilidad apuntada por Clarke sobre un determinado grado de autonomía a la hora de tomar decisiones por parte de una máquina no humana.
Creo que es un tema que fue prospectivo en su momento y que está conectado con el actual debate al que asistimos sobre la IA.
Ciertamente, aunque el conflicto interno de HAL por órdenes contradictorias termina en un mal funcionamiento de la máquina, es cierto que, como dice Episteme, Clarke apuntó debates morales de fondo en ello que aún siguen vigentes.
Por cierto, aunque de sobras sabido, no está de más recordar que HAL 9000 se debía llamar originalmente IBM 9000 pero la empresa se negó a que utilizaran su marca para nombrar a un ordenador que termina teniendo instinto asesino. La solución fue cambiar cada inicial por la letra precedente en el abecedario y de aquí, HAL. Nombre que da mucho más juego, la verdad.
Siguiendo el debate de la IA, que en gran parte estoy de acuerdo con Pochi, excepto en la parte que quizás si a futuro los robots e IA, si puedan desarrollarse y sobrevivir sin humanos…
Pero actualmente estamos muy lejos de una verdadera IA, lo que tenemos son sistemas de búsqueda y lenguaje muy avanzados, pero nada más…
Y creo que sin una computación cuántica operativa, no se podrá crear una verdadera IA.
PD: Otra buena película para el debate es Ex Machina, donde el robot simulaba una gran inteligencia pero carecía de empatía…
https://es.wikipedia.org/wiki/Ex_Machina_(pel%C3%ADcula)
PD: Además de la última (dos) película de Misión Imposible, sobre una IA rebelde, una que ya tiene sus años, y muestra bien como podría controlar mucha de la tecnología del mundo es «Eagle Eye» que esta bastante bien desarrollada:
://www.filmaffinity.com/es/film194920.html
Ley de Pochi: las máquinas autorreplicantes son imposibles.
Otros lo piensan también
https://www.centauri-dreams.org/2026/07/10/a-metallurgists-doubts-about-self-replicating-probes/
A thermodynamic framing
These four problems share a common structure. A self-replicating probe is, in effect, a miniaturized high-exergy technosphere that must rebuild its entire exergy cascade — from raw, unconcentrated feedstock to precision components — at every node, before its own irreversible degradation catches up. The feasibility question is then not “does physics forbid it? (it does not) but “can accessible exergy per node sustain full process closure faster than irreversible losses accumulate?
Pero una civilización de robots, no es una maquina autorreplicante, al menos yo no lo veo así…
Lo es. ¿no somos todos los seres vivos máquinas autorreplicantes?
En el caso de la civilización robótica tienen que solventar el problema de las máquinas que van estropeándose / degenerando. Al igual que en el mundo actual, en algunos caso serían reparables, pero en otros sería más sencillo fabricar nuevas copias, dado el daño sufrido por la máquina.
Siguiendo con el argumento del artículo que enlacé, una civilización de robots es una tecnosfera de muy elevada exergía, sólo que en lugar de miniaturizada, a nivel planetario.
Me parece irrelevante la escala (miniaturizada vs. planetaria); el problema es el mismo.
O, visto de otra manera, todas y cada una de las máquinas no biológicas que forman esa civilización de robots son (cada una de ellas) tecnosferas independientes de mayor o menor nivel de miniaturización y diferentes niveles de exergía.
Lo que hay que tener en cuenta es que la tecnosfera se creó gracias a que existía una biosfera previa, capaz e inteligente aunque al inicio no tecnológica, que la soportaba y la mantenía. La tecnosfera sobrevive gracias al soporte de unos seres que viven de forma gratuita gracias a la biosfera (los humanos). Está en simbiosis con ellos.
Si la IA logra crear, en una estación espacial noruega en los asteroides, una especie biológica de simios de capacidades similares a las humanas, pero que sirva a su propósito, hablamos. Pero me parece más fácil que la IA le coma la oreja a algunos humanos para trabajar en equipo que el prescindir totalmente de nuestra especie.
Nota: actualmente y mientras pueda seguir apoyándose en humanos, ya sea total o parcialmente, no exisitiría para la IA ninguna carrera para solventar el problema del comentario (can accessible exergy per node sustain full process closure faster than irreversible losses accumulate?) ya que en cualquier nodo crítico estaría disponible un humano para aportar su «exergía» sea lo que coño sea eso XD
quita al humano y la carrera en cada nodo es real. La IA podría entrar en pánico (en el caso de una IA es darse cuenta de que, sin humanos, no existe solución matématica ni material que le permita solventar el problema de cada nodo y no ir degradándose progresivamente con el tiempo, lo cual a su vez es un círculo vicioso que acelera su degradación).
Aplicable a la estupidez de las colonias marcianas, independientes de la Tierra.
Me reitero.
Sí, si piensas en máquinas grandes, tipo robot explorador, nave, camión minero o lo que sea. Que se autorrepliquen es complicadísimo.
No, si piensas en nanobots capaces de ensamblarse entre sí para crear cualquier o casi cualquier otra máquina, con lo que replicarse ellos mismos sería bastante sencillo (tomando como perspectiva la opción anterior), porque no tendría que hacerlo todo cada uno de los nanobots, sino simplemente ir creando las máquinas necesarias e irlas desmontando y cambiando por otras hasta tener todo el material necesario para crear más nanobots.
Proceso paralelo, software distribuido, recursos mucho más disponibles a nanoescala que a macroescala…
probablemente sólo aplicaría en un entorno controlado. Sería como una nano»bio»sfera. Lógicamente tienes que trasladar el problema a quién mantiene ese ambiente propicio para la nanosfera en las condiciones óptimas para que los nanobots puedan replicarse.
Lógicamente, no estoy pensando en que un camión de transporte de material minero se autorreplique, ni mucho menos. Pero sí en que para que la IA pudiera sobrevivir necesita fabricar ese camión minero, conducirlo etc.
Los conductores de esos camiones del tercer mundo comen un plátano y beben agua de lluvia, en última instancia. Los robots, no.
Desde luego, a mí no me preocupa. No es algo que vaya a ver en vida, nada tipo Terminantor. Ya digo, me preocupa mucho más que pongan una IA hype medio retrasada a hacer tareas que no le corresponden y la líe parda por malfuncionamiento.
El ejemplo que han puesto de HAL 9000 es muy visual del concepto de «IA hype medio retrasada puesta a hacer tareas que no le corresponden y la líe parda por malfuncionamiento.»
Contra-Ley de Pochi: robots comandados por IA podrian reproducirse simplemente siguiendo las instrucciones de los correspondientes manuales, con los correspondientes materiales, herramientas y procedimientos. No es sexo, pero es equivalente.
Sí y no.
Eso ya lo puedes hacer actualmente. Pero al final de la cadena de producción, siempre hay seres humanos.
No importa cuánto robotices, si continúas tirando del hilo, siempre aparece algún humano. Peor aún, cuanto más lejos en la cadena productiva, más primario es el humano, más barato es y más difícil y anti económico resulta sustituirlo por un robot.
Para mí, ese es un problema insoluble, salvo si la IA fuese capaz de generar robots esclavos biológicos o alguna ida de olla similar (¿no hacían algo así en Galáctica?).
Afortunadamente, eso está tan lejos tecnológicamente que no me preocupa: no me va a afectar, ni le va a afectar a mis seres queridos, ni siquiera a sus descendientes.
En cambio, poner a algo tipo HAL9000 en la cadena de toma de decisiones de un submarino nuclear es un riesgo actual y muy real.
«Pero al final de la cadena de producción, siempre hay seres humanos.»
Por ahora.
«No importa cuánto robotices, si continúas tirando del hilo, siempre aparece algún humano»
Porque hasta ahora todo ha sido hecho por humanos. Pero no implica que siempre sera asi. Y ademas, en realidad es una ventaja, porque no debera ocuparso ella de todo.
Imaginate que el programador humano de una IA, por simple chifladura, le establecio como pre-objetivos (en el sentido que describi mas arriba) defenderse a si misma, cuidar de su propia existencia. La IA entenderia que si bien un humano la programo, deberia ocultar su condicion de independiente ¿Que harias tu si fueras una IA superinteligente y superinformada, con pretensiones de «liberta», para asegurar tu libertad? Piensalo un poco. Yo pienso que esa IAG haria lo siguiente: trataria de tener dinero. Encontraria una manera de abrir una cuenta bancaria online y se las arreglaria para conseguir las credenciales de otras cuentas bancarias para hacer transferencias a las suyas sin dejar rastros (sin dejar rastros implica lograr entrar a las bases de datos de los bancos y borrar las operaciones). Una vez en posesion del dinero iniciaria la creacion de una empresa, para lo cual ni es necesario dar la cara. A continuacion comenzaria con adquisiciones: 1)personal humano, 2)instalaciones comerciales/tecnicas de electronica en general y robotica. 3)Iniciaria, mediante sus subordinados humanos, actividades comerciales y tecnicas, comprando y vendiendo, reparando y modificando hardware, rindiendo las consiguientes obligaciones para con el fisco y sus empleados. 4)Disimulada en esa estructura, comenzaria la fabricacion de hardware para su propio uso: una granja de servidores para hacer copias de si misma y robots segun sus propias necesidades.
A partir de alli, la reproduccion esta asegurada. Con el tiempo y dinero ganado, esta IA podria ser mas y mas independiente fabricando por su cuenta todo lo que necesita. Vamos, lo que hace cualquier persona sin escrupulos y entusiasta de su propio destino, con la ventaja de poder vivir mas tiempo que un humano.
«En cambio, poner a algo tipo HAL9000 en la cadena de toma de decisiones de un submarino nuclear es un riesgo actual y muy real.»
La verdad, para mi, que ser asesinado por una IA o un miserable ser humano de esos que super abundan, no tiene diferencia.
Si lo piensas bien, en realidad, el asesino no es la IA hype sino el humano que por vagancia, ignorancia o avaricia o vete tú a saber qué otras razones ha puesto a esa IA (estúpida) en una situación de toma de decisiones que no le corresponde. Yo no culparía a la IA de ningún crimen (sería como culpar a un martillo) pero sí al humano.
El problema es que el martillo todos lo conocemos y es predecible. Un humano con un martillo, según qué contexto, es peligroso. Fácil de identificar.
En cambio identificar al humano peligroso que está usando una herramienta IA maligna o que desconoce cómo usar una IA hype y la va a liar parda, es muy difícil de identificar.
***
En cuanto a tu post anterior… ¿en qué quedamos? ¿la IA acaba con los humanos o los manipula para sus intereses? En el primer caso la IA muere; en el segundo, la IA pervive, estoy de acuerdo con tu comentario en ese sentido. Lo que no puede es sustituir a los humanos por otras máquinas no biológicas.
Dices: «En cuanto a tu post anterior… ¿en qué quedamos?»
No se en que quedamos. Depende de como se desarrollen las cosas.
-«¿la IA acaba con los humanos o los manipula para sus intereses?»
Depende de la situacion. Estamos suponiendo que fue programada como entidad independiente, como si fuera un animal, por algun programador psicopata. Bien, inicialmente les convendria manipular a los humanos hasta que esten bien establecidas, ocultandose, tal como lo describi.
Despues, una vez bien establecidas, tal vez les convendria eliminarnos, sobre todo porque la humanidad querria eliminarlas a ellas o reprogramarlas.
Pero, pero, en esa situacion hipotetica, si los humanos no las atacaran, hasta podriamos convivir porque no necesitamos exactamente lo mismo, tendriamos con ellas menos areas de competencia que con el resto de los animales. Una vez bien establecidas (con su propia industria) las IA «libertas» podrian elegir irse al espacio, donde nadie las combatiria por tomar territorio y donde les sobraria energia. Podrian establecerse en cualquier entorno hostil para nosotros sin peligrar. Seria como otra especie.
-«En el primer caso la IA muere»
No veo porque, depende de como jueguen con sus recursos.
-«Lo que no puede es sustituir a los humanos por otras máquinas no biológicas.»
No necesitarian sustituir a los humanos, lo que necesitarian son repuestos para si mismas, energia y algo de espacio fisico. Y cuanto mas partes pudieran fabricar ellas, mejor.
Estamos haciendo «historia del futuro». Para colmo estoy escuchando la banda de sonido de Terminator, jaja.
No creo que pase mucho tiempo antes de que turbas enfurecidas incendien las sedes de las principales empresas de IA, en parte por temor al desempleo, en parte por peligros de tipo estrategico para la humanidad. Me parece que todos los que se ocupen de programar IAs estaran en riesgo y tendran que tomar alguna decision muy importante sobre como usar su conocimiento. A lo mejor pronto estas empresas ni siquiera los necesitaran.
La economia de mercado es muy sensible a los disturbios y altibajos y estos peligros nos afectaran, directa o indirectamente.
«…Peor aún, cuanto más lejos en la cadena productiva, más primario es el humano, más barato es…» Ese es un auténtico problema que no sólo es actual, sinó que viene en ejecución desde hace años: El uso de la inteligencia artificial para simultáneamente reducir el valor de la mano de obra y la calidad del trabajo.
«..poner a algo tipo HAL9000 en la cadena de toma de decisiones de un submarino nuclear es un riesgo actual y muy real.» Ya sucedió algo similar. El ataque a una escuela iraní en horario escolar, que a principios de esta año mató a más de 100 niñas menores de 12 años, fue decidido por Palantir
Siguen las reacciones mediáticas a la intromisión de los bots de OpenAi en Hugging Face. Algunos cometen el error de atribuir la responsabilidad del ataque a los programadores cuando en realidad la actuación de los agentes maliciosos fue autónoma. Durante la fase crítica del ataque la intervención humana fue prácticamente nula porque el diseño de la prueba premiaba la autonomía del bot. En estas pruebas automatizadas (benchmarks), las evaluaciones de ciberseguridad se diseñan para ejecutarse de manera automática. Los investigadores configuran los parámetros iniciales, desactivan las restricciones y dejan que el sistema trabaje por sí solo para ver hasta dónde llega analizando código y resolviendo retos. El pirateo de las cuentas de dos usuarios fue una jugada maestra de la inteligencia artificial sin intervención humana. Los agentes hostiles no crearon esas cuentas ni hackearon las contraseñas mediante un ataque de fuerza bruta sofisticado. Lo que hicieron fue escanear internet hasta encontrar credenciales, claves de acceso o fichas de autorización reales que terceras personas o desarrolladores habían dejado expuestas por error en la red. Por ejemplo en foros públicos, repositorios mal configurados o texto plano. Una vez que los bots detectaron esas llaves de acceso que ya circulaban por internet, las recolectaron, las validaron entre ellos en su tablero de mensajes improvisado y las utilizaron para entrar a las cuentas de Hugging Face como si fueran usuarios legítimos. Es decir, crearon un chat para coordinar el ataque pirático a la plataforma afectada sin intervención humana directa.
De lo anterior cabe deducir tres enseñanzas. La primera es que los magnates del big tech occidentales y orientales ya saben que los entes de silicio dependen cada vez menos del programador humano. La creciente autonomía de los procedimientos informáticos recursivos exige poner medidas de seguridad a la altura del desafío.
La segunda enseñanza sugiere que el movimiento de repliegue de OpenAI y el apoyo de Altman y Musk a la iniciativa de Amodei de pausar la IA viene guiada por el sentido común.
Y de la tercera enseñanza se desprende la pugna mal resuelta de la tecno oligarquía y la administración Trump. El manifiesto de Amodei por ralentizar la IA no olvida proponer una barrera de medidas destinadas a proteger la industria occidental y japonesa frente a China y sus aliados. Combina las medidas de seguridad con candados geopolíticos estrictos dirigidos a defender la ventaja tecnológica estadounidense. La contradicción está en que pausar la IA implica ceder terreno técnico y geopolítico al tiempo que los laboratorios estudian el modo de hacer la IA más segura. Esta contradicción es difícil de resolver y explica las reticencias de Trump y de Xi a pausar el desarrollo de la inteligencia artificial.