IA y ambici車n: Puneet Singh analiza el lado humano de las m芍quinas en el SiGMA Asia 2025

Matthew Busuttil
Escrito por Matthew Busuttil
Traducido por Milagros Codo

Vuelve un amigo de la casa

En una interesante ponencia en la Cumbre SiGMA Asia 2025 en Manila, Puneet Singh, director asociado de Innovaci車n y Tecnolog赤a en PwC India, ofreci車 un interesante an芍lisis de la filosof赤a y el potencial de la inteligencia artificial. La sesi車n ※Por qu谷 la IA es el espejo definitivo de la ambici車n humana: un viaje al coraz車n del pensamiento artificial§ fue mucho m芍s que un debate t谷cnico: fue una reflexi車n sobre la condici車n humana, el progreso y nuestro futuro como sociedad.

Por tercer a?o en el escenario de la cumbre, Singh revis車 la evoluci車n de su relato sobre la IA:

※En la primera edici車n del AIBC en Manila, habl谷 sobre por qu谷 la IA es el mayor reflejo de la ambici車n humana. Al a?o siguiente, habl谷 sobre el ser humano contra la m芍quina. Spoiler: el ser humano gana, porque nosotros tenemos prop車sito y ambici車n憸.

La IA como el espejo de la humanidad

La charla de este a?o fue sobre la IA, no solo como una herramienta, sino como una profunda reflexi車n de qui谷nes somos y qui谷nes podemos llegar a ser.

※La IA es la mayor oportunidad que tenemos para codificar a los humanos y hacer avanzar a la sociedad憸.

Singh se bas車 en los fundamentos de la inteligencia artificial, haciendo referencia al juego de imitaci車n de Alan Turing y los cambiantes puntos de referencia de la credibilidad de la IA.

※?ltimamente, ha sido m芍s dif赤cil distinguir entre un LLM (modelo extenso de lenguaje) o un modelo humano憸.

Sin embargo, la verdadera pregunta es otra:

※La verdadera pregunta no es si las m芍quinas pueden enga?arnos, sino si podemos confiar en ellas y c車mo seguir adelante憸.

Un marco filos車fico para el desarrollo de la IA

Para trazar un camino hacia el futuro, Singh present車 su ※br迆jula§ de IA, un marco estrat谷gico basado en el desarrollo humano como principio rector. Este marco se sustenta en cuatro pilares: oportunidad inclusiva, que garantiza el progreso conjunto de todos los segmentos de la sociedad; innovaci車n exponencial, que adopta avances innovadores; responsabilidad compartida, que fomenta la rendici車n de cuentas colectiva; y dise?o 谷tico, que prioriza la creaci車n de sistemas seguros y transparentes desde cero.

※Todo lo que nos ayuda a avanzar juntos como sociedad es algo que debemos mantener como nuestro norte憸.

Un viaje personal en ciberseguridad y 谷tica de la IA

Combinando su perspectiva profesional con su reflexi車n personal, Singh comparti車 su evoluci車n desde pasante de ciberseguridad simulando ataques (Red Team) hasta experto en defensa (Blue Team) en PwC India.

※Cuando comenc谷 mi carrera, fui parte del red team. A medida que progres谷, pas谷 al blue team憸.

Destac車 una iniciativa reciente, Secure Astra, una herramienta de seguridad de IA que ayud車 a desarrollar y patentar. Durante una prueba de estr谷s interna, su equipo logr車 eludir las capas de seguridad de la IA generativa mediante un ataque de cifrado y expusieron una vulnerabilidad muy grave.

※Necesitamos definir mejores sistemas que entiendan cosas m芍s all芍 de lo que podemos comprender憸.

Este momento subray車 la necesidad de dise?os de IA que puedan anticipar amenazas que superen la previsi車n humana.

La convergencia de la 谷tica, la escala y la disrupci車n

De cara al futuro, Singh imagin車 un mundo dominado por la IA en el que la disrupci車n se convierte en la norma. Desde los medios de comunicaci車n y los juegos hasta las empresas y la industria, las fronteras tradicionales se desvanecen r芍pidamente.

※Estamos presenciando una disrupci車n masiva en todas las industrias, se est芍 nivelando el campo de juego憸.

Sin embargo, destac車 que, junto con la innovaci車n, tambi谷n se deben establecer l赤mites 谷ticos, y destac車 los esfuerzos en curso para desarrollar est芍ndares y protocolos globales de IA.

※Hoy en d赤a se est芍n dise?ando muchos est芍ndares y protocolos para mantener la seguridad como base de la innovaci車n en IA憸.

Un futuro moldeado por la intenci車n, no por el azar

Para finalizar, Singh hizo hincapi谷 en el potencial transformador de la IA, no solo para replicar patrones humanos, sino para amplificar la capacidad humana.

※Lo que nosotros pensamos que podemos lograr con IA con el tiempo, lo podemos hacer 10 veces m芍s憸.

En lugar de ver el futuro como un objetivo est芍tico, solicit車 a la audiencia que lo vieran como una direcci車n en evoluci車n establecida por las decisiones de hoy.

※El futuro no es un destino al que queremos llegar, es una br迆jula que fijamos hoy, y en esa direcci車n nos movemos憸.

Si te interesa seguir los debates sobra la IA, la tecnolog赤a y la ambici車n humana, consulta la agenda del SiGMA Asia 2025 para no perderte ning迆n panel de la cumbre.