VI. El Horizonte
IA general y el riesgo de entregar el control

CONTENIDO

27. Qué es la IA general (IAG) y por qué inquieta a quienes la construyen

• Una definición que por fin se puede señalar, no solo intuir

• El desacuerdo entre expertos es, en sí mismo, el dato más importante

• Por qué inquieta a quienes la construyen — y no es la primera vez que ocurre esto en la historia

• Del miedo lejano al riesgo ya presente

• Por qué esto le importa a un líder de empresa, no solo a un investigador de seguridad

28. El riesgo de "suicidio" civilizacional

• Qué significa técnicamente "pérdida de control", sin dramatismo

• Cuando una agencia de seguridad nacional lo dice, no es ciencia ficción

• Señales que ya se pueden observar, no solo imaginar

• La versión gradual del riesgo: la que ya está ocurriendo hoy

• Por qué esto no es fatalismo, sino la razón de ser del principio de que la IA proponga pero que el humano disponga

29. Principios de gobernanza para no llegar tarde

• El costo de esperar no es cero: el problema del "shadow AI"

• Qué puede hacer una empresa individual, ya, sin esperar ninguna ley

• Qué puede hacer un gremio: agregando escala donde la empresa individual no alcanza

• Qué puede hacer un país: gobernanza adaptativa mientras la ley madura

• La concentración de poder como razón última de urgencia

30. El límite que ninguna tecnología debería cruzar

• La dignidad ligada a la capacidad de decidir

• Un documento que elige su fecha y su nombre para decir algo con toda intención

• La frase que todo líder debería llevarse de este capítulo

• Cuando la advertencia se vuelve explícita: el límite militar como el caso extremo que ilumina el caso cotidiano