Aumentado los temores de que la IA pueda causar accidentalmente un conflicto global

Los recientes avances de alto perfil en inteligencia artificial han aumentado los temores de que la IA pueda causar accidentalmente un conflicto global.La tecnología podría, en un caso extremo, "confundir a un pájaro con una amenaza entrante y desencadenar un lanzamiento nuclear si no hay una anulación humana para evaluar las alertas de un avión asistido por IA”.“Los sistemas de IA son un tanto incognoscibles”, dice Peter Rautenbach del Bulletin of the Atomic Scientists, en el sentido de que “efectivamente se programan a sí mismos de formas que ningún ser humano puede comprender por completo”. La IA militar diseñada para actuar rápidamente para capitalizar las ventajas “podría perder oportunidades de desescalada o funcionar demasiado rápido para que los tomadores de decisiones humanos intervengan y señalen su intención de desescalada”. Bill Gates ha manifestado repetidamente que los gobiernos deberían tomarse en serio la "amenaza que representan los humanos armados con IA”.