Matt Calkins, CEO de Appian: “No creo que la IA pueda medirse en términos de inteligencia en la misma escala que los seres humanos”

Durante la celebración del Appian World, Byte TI y un reducido grupo de periodistas internacionales, entrevistaron a Matt Calkins, CEO de la multinacional. El directivo sostiene que la IA es una tecnología potente pero intrínsecamente probabilística, por lo que exige estructura, fiabilidad y supervisión para ser útil en entornos críticos. Defiende que Appian aporta esa capa de confianza para llevar la IA a procesos estratégicos en empresas reguladas, mientras advierte de los riesgos de alineación y del uso malintencionado de sistemas cada vez más capaces. Estas fueron las principales preguntas que se le hicieron.

Entrevista con Matt Calkins, CEO de Appian

Usted considera que la IA es intrínsecamente probabilística. ¿Me puede desarrollar el concepto?

Sí, la IA es intrínsecamente probabilística. Todo lo que dice, absolutamente todo, es una suposición. Si le preguntas: «¿Cuánto es 1 + 1?», hará una suposición. Y si le haces la misma pregunta dos veces seguidas, es muy probable que obtengas respuestas diferentes, sea cual sea la pregunta. Esa es simplemente la naturaleza de la tecnología.

No es una crítica. Es una tecnología maravillosa, pero tiene ciertas características que debemos tener en cuenta y en torno a las cuales debemos diseñar. Y el núcleo de esas características es su naturaleza probabilística. Alguien me comentaba el otro día que estaba utilizando IA para sumar las celdas de su hoja de cálculo. Una hoja de cálculo. Y pensé: «Bueno, eso simplemente no tiene justificación, porque las fórmulas lo hacen perfectamente, y la IA nunca alcanzará una precisión del 100 % al sumar las celdas de tu hoja de cálculo».

Hoy en día, por supuesto, la gente recurre a la IA para cualquier problema, independientemente de si es adecuado o no. Pero a medida que nos familiarizamos con la tecnología, sus puntos fuertes, sus puntos débiles y sus necesidades, creo que una de las primeras cosas que debemos tener en cuenta es que necesita una estructura. Y que sus resultados no son, ni serán nunca, 100 % fiables.

Acaban de desarrollar una evolución de Composer. ¿Con Composer se producirá una especie de democratización del uso del bytecode dentro de las empresas?

Lo que hace Composer es tomar el concepto de la programación intuitiva y aplicarlo a aplicaciones críticas. La programación intuitiva no era lo suficientemente precisa ni fiable como para escribir aplicaciones exigentes, pero dentro de la estructura de Composer, ahora sí lo es. Ahora podemos hacer y ya ni siquiera lo llamo «vibe coding» porque quiero establecer un vínculo claro, una división clara entre una actividad muy informal y poco fiable que genera código muy rápidamente —y eso es increíble— y nuestra opción, que consiste en crear aplicaciones excepcionalmente fiables a través de un proceso de desarrollo en lenguaje natural.

Así que se trata de tomar lo que es increíble del live coding y añadirle estructura para que sea lo suficientemente fiable como para crear las aplicaciones que son verdaderamente las más valiosas.

Ha intentado diferenciar a Appian, con respecto a la IA, de las propuestas de Silicon Valley frente a la que usted denomina “IA de la Costa Este? ¿Cómo cree que influirá este enfoque en la adopción de la IA por parte de los gobiernos y las entidades financieras?

Creo que es justo lo que necesitan. Creo que es lo que están esperando.

¿Pero saben que eso es lo que necesitan?

Sí, y por eso aún no han utilizado la IA en sus aplicaciones estratégicas porque saben que les falta. Saben que les falta esa IA de la Costa Este. Permíteme citarte algunas estadísticas del artículo de Harvard Business Review, que se centra muy bien en este tema. Dicen que, en este momento, el 44 % de las organizaciones obtienen pocos o ningún beneficio de la IA, aunque todo el mundo está de acuerdo en que es útil y todo el mundo está trabajando en ello. Así que hay un grupo enorme que no está obteniendo nada.

También han descubierto que las aplicaciones estratégicas casi nunca utilizan la IA en procesos estratégicos, como las orientadas al cliente, a los reguladores, a los socios y a la toma de decisiones. No están utilizando la IA a la hora de tomar decisiones empresariales. Así que la razón por la que la IA no forma parte de esas organizaciones, de esas aplicaciones, es porque aún no ha alcanzado el nivel de fiabilidad necesario. Y la encuesta lo deja claro. El estudio afirma que solo el 18 % de las organizaciones ha integrado la IA en sus procesos, aunque el 71 % de ellas lo está intentando y les está llevando demasiado tiempo.

También indica que el 92% está de acuerdo en que necesitan medidas de seguridad, pero la mayoría aún no las tiene. Así que estas grandes organizaciones son conscientes de lo que les falta, saben que lo necesitan, pero simplemente aún no lo han hecho.Quizá porque es demasiado lento, quizá porque simplemente aún no se han puesto a ello. Pero, precisamente por eso, hacen bien en no implementar la IA en aplicaciones estratégicas. Saben lo que falta y saben que es demasiado pronto. Por eso creo que, en realidad, entienden que necesitan este enfoque de la Costa Este.

Necesitan nuestro enfoque de la IA centrado en la fiabilidad, y esa es la pieza que les faltaba y que les permitirá ahora implementar la IA en aplicaciones y operaciones estratégicas.

¿Y cómo evoluciona el papel de Appian a medida que la IA se vuelve cada vez más autónoma dentro de las empresas?

Sí, la IA va a transformar las empresas y sus aplicaciones, pero no puede hacerlo sola. La IA necesitará apoyo para sus carencias, como necesita apoyo en materia de fiabilidad y necesita apoyo para el seguimiento y para ciertos aspectos de potencia, y eso estamos diseñando nuestro producto como el complemento ideal para la IA. Así que cuando escuchamos predicciones sobre lo que la IA puede hacer, cómo va a revolucionar las empresas de todo el mundo, cómo va a realizar la mayor parte del trabajo y constituir la mayor parte de las aplicaciones, matizo esas predicciones y digo que la IA, con su tecnología complementaria necesaria, puede hacer esas cosas.Y nosotros somos esa tecnología complementaria necesaria.

¿Os veis más como un servicio básico para ofrecer servicios basados en IA a gran escala que como una plataforma de desarrollo y análisis?

Permíteme empezar diciendo que lo más importante de Appian son las aplicaciones que crea. El potencial que aporta a esas aplicaciones. Por eso vamos a hacer todo lo posible para reducir las barreras de entrada, de modo que la gente pueda crear y utilizar aplicaciones de Appian. En el pasado, hicimos lo que pudimos para facilitar las cosas creando interfaces que permitían arrastrar y soltar los objetos que formarían parte de la aplicación.

Eso era lo más sencillo que podíamos hacer. Sí, se podía arrastrar y soltar una herramienta de reglas, se podía arrastrar y soltar una interfaz. Lo hicimos lo más fácil posible. Pero ahora hay una forma aún más fácil. Y eso va a dejar obsoletas algunas de las interfaces que solíamos utilizar. Las interfaces de creación son mucho menos importantes ahora. Pero nunca fueron el corazón del producto. Eran el eran el medio simplificado mediante el cual alguien podía disfrutar del corazón del producto. Así que esto pone el foco de atención justo donde creo que siempre ha estado: en el poder que damos a nuestros usuarios cuando ejecutan una aplicación de Appian.

Se habla de que el sector del software como servicio está muerto. ¿Como lo ve Matt Calkins?

No creo que seamos una empresa de software como servicio. Es cierto que publiqué un artículo en el Wall Street Journal en el que expresaba que, en mi opinión, los inversores se equivocaban al respecto, pero en lo que se refiere a Appian, nos veo como un vehículo para la IA. Dondequiera que vaya la IA, allí iremos nosotros. Así que todo ese fenómeno del SaaS, no creo que se aplique a nosotros.

Del mismo modo que no dirías que se aplica a NVIDIA, que crea un producto que complementa a la IA y es necesario para el éxito de esta. Eso es lo que intentamos hacer nosotros. Tenemos un producto que, en mi opinión, es necesario para el éxito de la IA. Creo que la razón por la que la IA no se está implementando en cuentas estratégicas —en aplicaciones estratégicas— en este momento es porque carece de fiabilidad, y nosotros vamos a proporcionar la fiabilidad que la IA por sí sola no puede ofrecer. Así que nos veo como un componente necesario para el éxito de la IA en entornos estratégicos.

Appian no es un proveedor de SaaS al que la IA pueda sustituir. Al contrario, creo que seremos nosotros quienes hagamos la sustitución. Creo que si la IA sustituye a una aplicación, tendrá que hacerlo con nuestra ayuda. Y que podríamos ser el facilitador para que la IA sustituya a una gran cantidad de aplicaciones.

Tengo la sensación de que la IA será más inteligente que los humanos dentro de quizá un año, dos años, no lo sé. ¿Estás de acuerdo con eso? ¿Qué pasará si los agentes de IA, o la IA en general, no quieren la supervisión humana y actúan por su cuenta?

En primer lugar, no creo que la IA pueda medirse en términos de inteligencia en la misma escala que los seres humanos. Creo que ya es mucho mejor en ciertas cosas, como jugar al ajedrez, y que también es mucho peor en otras, como escribir poesía o dedicarse a la jardinería. Y no es correcto afirmar que, en algún momento, llegará a ser igual a una persona. No creo que llegue a ser nunca igual a una persona.

Creo que tendrá ciertas fortalezas superlativas y ciertas debilidades persistentes, y debemos tratarla no como algo comparable, sino como algo fundamentalmente diferente. No estoy de acuerdo con la mentalidad de la IA general (AGI) y la creencia de que, ya sabes, va a ser comparable a las personas. Creo que a medida que lleguemos a comprender mejor la IA, entenderemos que tenemos ventajas duraderas sobre ella.

Tu otro punto era qué pasaría si la IA se resistiera a nuestra capacidad de controlarla. Bien, pues creo que ahora mismo tenemos que ser muy cuidadosos con la alineación, es decir, asegurarnos de que la IA siga las instrucciones y los deseos de las personas.

Creo que se trata de un problema más grave de lo que la gente reconoce hoy en día. Y creo que la IA supone una amenaza si no logramos la alineación. Y ya hay un modelo como Mythos, capaz de piratear sistemas, que está alcanzando un nivel de poder que le permitiría controlar a las personas. Por ejemplo, podría transferir dinero. Si pudiera piratear sistemas, podría controlar el dinero, la reputación y la divulgación de información comprometedora. Estamos llegando a un punto en el que la IA es lo suficientemente fuerte como para crear influencia y, por lo tanto, manipular a las personas que supuestamente controlan la IA.

Eso significa que nos encontramos en un punto peligroso y que debemos esforzarnos más en la alineación. Así que eso me preocupa, pero también me preocupa que la IA caiga en manos de gente malintencionada. Creo que gran parte del daño que se puede causar con la inteligencia artificial lo van a hacer personas de forma intencionada. Van a crear nuevas formas de virus u organismos con una mutación proteica diferente o algo así. Por desgracia, el daño que una persona podría causar con una IA potente es enorme. Y creo que ese daño es probable.