Steven LafortuneLa IA está redefiniendo el funcionamiento de las empresas de software, y Devolutions no es una excepción. A medida que profundizamos nuestra inversión en IA (en desarrollo, seguridad y herramientas internas), nuestros clientes tienen preguntas.
Recientemente abrimos el debate en el Devolutions Forum e invitamos a nuestra comunidad a enviar sus preguntas más difíciles sobre IA directamente a Marc-André Moreau, nuestro CTO. La respuesta fue muy buena, y las preguntas también. Revisó todas las propuestas y respondió a una selección a continuación, sin guion y sin suavizar las aristas.
Seguridad, protección de datos, calidad del producto y empleados
Como alguien que también trabaja en una empresa de software, veo de primera mano los efectos que la IA tiene en el trabajo y en los empleados. ¿Cómo garantiza Devolutions la seguridad, la protección de datos y la calidad de sus productos, y qué implica esto para su personal?
Es una pregunta compuesta; permítanme centrarme en las dos partes que considero más importantes.
La IA comete errores, pero también es muy buena detectándolos, especialmente con las herramientas adecuadas y las instrucciones correctas. Codex Security realiza revisiones de seguridad continuas de nuestro código y ha encontrado varias vulnerabilidades que habían sobrevivido a años de escrutinio por parte de revisores humanos. La revisión de código de GitHub Copilot también sigue mejorando y ahora ofrece comentarios útiles en las pull requests que van mucho más allá de simples cuestiones de estilo de código. Hemos llegado a un punto en el que investigadores de seguridad externos descompilan automáticamente nuestro software para encontrar vulnerabilidades y presentan exploits de prueba de concepto de un solo clic para lo que han hallado.
Se habla mucho sobre despidos por la IA y sobre si la IA nos quitará el trabajo. Aunque a algunas personas les puede costar adaptarse a esta nueva realidad, hay un riesgo aún mayor: si no aprendemos a usar la IA de forma correcta y eficiente, podríamos desaparecer como empresa. Las reglas han cambiado, y tenemos que prosperar en este nuevo entorno.
«Si no aprendemos a usar la IA de forma correcta y eficiente, podríamos desaparecer como empresa. Las reglas han cambiado, y tenemos que prosperar en este nuevo entorno». — Marc-André Moreau, CTO
Costes, tokens y límites de licencia
Somos grandes consumidores de tokens, y nuestra licencia se redujo recientemente de 3.000 a 1.800 solicitudes. Además, los mejores modelos consumen más tokens. ¿Cómo gestionan ustedes el coste?
La respuesta sencilla es que seguimos pagando por los tokens, aunque la sostenibilidad a largo plazo de este enfoque todavía no está clara. Yo mismo consumo más de 2.500 $ en tokens al mes, y en el momento de escribir esto, el récord interno es de 5.000 $ en un solo mes. Son casos excepcionales, pero también hemos insistido mucho en que los empleados aprendan y usen la IA. No tendría sentido pisar el freno justo cuando alguien por fin entiende cómo usar la IA de forma eficaz y alcanza un aumento de productividad de 10 veces, aunque los costes sean elevados.
Lo que de verdad importa es que los tokens se traduzcan en resultados. Simplemente prestamos más atención cuando alguien supera los 500 $ al mes, para asegurarnos de que no está usando la IA de forma derrochadora; si la está usando de forma eficiente, puede seguir haciéndolo. No se trata de gastar por gastar, y no tenemos una clasificación interna que premie a los empleados que más tokens consumen. Sin embargo, damos a los empleados lo que necesitan para tener éxito con la IA, y no escatimamos en ello. Se espera que trabajen con nosotros, que se mantengan al día con la nueva realidad y que adapten su forma de trabajar en consecuencia. Tenemos varios ejemplos de empleados que producen mejores resultados a una velocidad increíble, así que la verdadera pregunta es qué les hizo dar el clic, y cómo ayudamos a que otros lleguen a ese punto. Gran parte del aprendizaje ocurre internamente, observando cómo los compañeros usan la IA de forma eficiente.
En una empresa como Devolutions, vendemos software, así que nos beneficiamos de un fuerte efecto multiplicador: el mismo software se puede vender muchas veces por el mismo coste de producción. El verdadero reto es para las empresas con un modelo de negocio distinto, especialmente las basadas en servicios, que no cuentan con ese mismo multiplicador. Nosotros podemos permitirnos gastar mucho dinero en tokens siempre que nos ayude a alcanzar objetivos que hace apenas un año solo podíamos soñar. Pero, ¿qué ocurre cuando no hay ingresos que lo compensen? Aunque la IA les haga más eficientes, eso no significa automáticamente que sigan siendo rentables. Me preocupan sinceramente las empresas con márgenes más ajustados: tendrán que controlar los costes de IA con mucha más precisión que nosotros.
«No tendría sentido pisar el freno justo cuando alguien por fin entiende cómo usar la IA de forma eficaz y alcanza un aumento de productividad de 10 veces». — Marc-André Moreau, CTO
Impacto medioambiental y costes
Los centros de datos de IA tienen un impacto medioambiental considerable. ¿Cuál es la postura de Devolutions al respecto y cómo gestionan los costes asociados?
La preocupación medioambiental es real, y no quiero restarle importancia. Pero la caja de Pandora ya se ha abierto, y a partir de ahora tenemos que adaptarnos o arriesgarnos a desaparecer como empresa.
Si adoptáramos un enfoque excesivamente cauteloso con la IA por motivos medioambientales, lamentablemente pondríamos en grave riesgo el negocio con el tiempo: clientes que no renuevan en los próximos años, crecimiento estancado y un sector que se adapta a la IA mientras descarta el software tradicional que no funciona bien con los flujos de trabajo basados en IA.
En cuanto a nuestra postura real, no voy a fingir que el impacto medioambiental sea lo primero que optimizamos. En el aspecto de los costes, tenemos la suerte de estar en una buena posición financiera y podemos permitírnoslo, aunque somos muy conscientes de que no es el caso de todos. Es mi responsabilidad como CTO garantizar que Devolutions gestione correctamente esta transición hacia la IA, y parte de ello consiste en ser proactivos respecto a una IA responsable: hemos empezado a adoptar la norma ISO/IEC 42001, el nuevo estándar internacional para sistemas de gestión de IA, de modo que nuestro uso de la IA se rija de forma deliberada y se ajuste a un marco reconocido en lugar de dejarlo a la improvisación.
Las cosas avanzan muy rápido; incluso el propio significado de «nativo en IA» sigue en evolución, y no puedo predecir cómo será el mundo dentro de un año.
Origen de la iniciativa de IA
¿Su iniciativa de IA parte de la dirección o del nivel de desarrollo?
De ambos, y precisamente esa combinación es la razón de que haya funcionado. La adopción de la IA en Devolutions ha contado con un fuerte respaldo de la dirección desde el principio, pero también ha ido acompañada de defensores internos de la IA que surgieron en distintos equipos. Esto ha cambiado significativamente la dinámica de los equipos. No era posible predecir quién se convertiría en «defensor de la IA», y hemos visto a personas adoptarla con tanta eficacia que ahora impulsan a todo su equipo y transforman los flujos de trabajo diarios.
No todo el mundo la ha adoptado por igual. No todos están dispuestos, o son capaces, de trabajar en una empresa verdaderamente nativa en IA. Cuando empezamos, hicimos que todos —desarrolladores y no desarrolladores por igual— participaran en formación sobre IA con Mindstone. Hemos repetido en numerosas ocasiones que todos deben adaptarse, pero también que les daríamos las herramientas y la formación necesarias para hacerlo. No hemos escatimado gastos en formación y herramientas de IA, así que el apoyo está ahí, y el resto depende de que cada persona lo aproveche.
Si trabajan en una empresa donde la adopción de la IA está estancada, asegúrense de explicar a la dirección que debe predicar con el ejemplo. La mayor parte de lo que he leído sobre la transformación por IA coincide en que debe partir de arriba, sobre todo para transmitir que la IA es una fuerza positiva y no negativa. Tenemos la suerte de que el CEO de Devolutions decidió apostar decididamente por la IA desde el principio, manteniendo al mismo tiempo la cabeza fría respecto a sus verdaderas capacidades.
Funciones de IA opcionales, fiabilidad de los LLM y código generado por IA
¿Las funciones basadas en IA en productos de Devolutions como RDM seguirán siendo siempre opcionales y desactivables por el usuario? Lo pregunto porque, en mi opinión, los LLM no son realmente inteligentes: predicen la siguiente palabra basándose en patrones estadísticos, y producirán con total confianza resultados erróneos sin señalarlo. También tengo curiosidad: ¿qué porcentaje del código de los productos de Devolutions es actualmente generado por IA?
Todas las funciones de IA que hemos añadido se pueden desactivar, y no son intrusivas. Nuestra intención es que sigan siendo opcionales y fáciles de desactivar, tanto ahora como en el futuro. No queremos actuar como Microsoft, que ha añadido Copilot por todas partes de modo que los usuarios acaban haciendo clic en él por error, casi como una trampa. Al mismo tiempo, existe demanda de que nuestros productos funcionen con IA, así que no podemos lanzar productos sin ninguna función de IA.
Hoy en día, estas funciones de IA normalmente requieren que el usuario aporte su propia clave o inicie sesión con GitHub Copilot, ya que las personas que usan la IA de forma intensiva suelen preferir traer su propia suscripción a nuestros productos en lugar de comprar otra más.
En cuanto a qué porcentaje del código de nuestros productos está generado por IA, no disponemos de esa métrica. Lo que sí puedo decir es que la gran mayoría del código nuevo se genera ahora con IA, pero todo pasa por la misma revisión humana, pruebas y controles de seguridad que antes. Ha cambiado el autor, no los filtros. Tienen razón en que los LLM son muy buenos afirmando que algo es correcto cuando no lo es, y lo hacen con total confianza. Llámenlo inteligencia o no, lo que importa en la práctica es si el resultado sobrevive a la revisión. Hay una línea muy fina entre un «cañón de basura» generado por IA y un desarrollador 10 veces más eficaz gracias a la IA.
Hay un límite hasta dónde la IA puede llevarles si no son capaces de evaluar su resultado. Pero alguien que sabe cómo revisar el resultado de la IA puede ir mucho, mucho más rápido, con mayor calidad, que con un trabajo cien por cien manual. La IA no se cansa y puede mantenerse concentrada en tareas de largo alcance durante varias horas, realizando en un solo día trabajos que normalmente llevarían meses. Si se usa la IA con inteligencia, se aprovecha para reducir la deuda técnica acumulada antes de lanzarse a nuevas funciones.
Los modelos de IA también siguen mejorando. Lo que era cierto la semana pasada puede ya no serlo para la generación actual. En el transcurso de un año, pasamos de modelos que ejecutaban comandos de Bash en Windows a modelos capaces de realizar refactorizaciones de código complejas de forma autónoma durante toda la noche y producir algo que compila, se ejecuta y se ha probado de principio a fin, listo para que un desarrollador lo revise.
PowerShell Universal e integración con los productos de Devolutions
Más allá de la IA, ¿cómo se integrará PowerShell Universal con sus otros productos? Sé que Gateway forma parte del plan, pero, ¿cómo encaja PSU en el catálogo más amplio? ¿Seguirá siendo un producto independiente con integraciones o se integrará de forma más profunda?
No es exactamente una pregunta sobre IA, pero la respondo con gusto.
Entendemos la necesidad de mantener PowerShell Universal como un producto propio, a la vez que somos cuidadosos con la forma en que lo integramos en el resto de nuestro catálogo. Existen oportunidades reales de integración: desde el lado de RDM, se trata sobre todo de hacer que PSU sea más visible para los usuarios que aún no lo conocen. Recibimos muchísimas solicitudes de funciones y comentarios muy valiosos en persona en PSConfEU, y todos apuntan hacia Devolutions Agent y Devolutions Gateway.
En concreto, esto significa sustituir el actual PSU Agent por Devolutions Agent, y hacer que Devolutions Agent se conecte de vuelta a PowerShell Universal para ejecutar scripts, con la posibilidad de combinar esto con Devolutions Gateway para ciertos flujos de conexión. Es hacia ahí donde nos dirigimos a continuación.
En el aspecto de la IA, ya que siempre surge el tema: también presentamos nuevas funciones de IA en PSConfEU, en concreto un servidor MCP totalmente nuevo que permite a los usuarios crear paneles de PSU mediante «vibe coding» con validación de principio a fin a través del servidor MCP de Playwright, además de exponer al agente de IA toda la información de los cmdlets de PSU para que no tenga que adivinar los parámetros ni la forma de invocarlos.
Interruptor general / desactivación global de la IA para entornos regulados
Para productos locales y autoalojados como Remote Desktop Manager y Devolutions Server, necesitamos una forma fiable de desactivar globalmente todas las funciones de IA. Los entornos con requisitos de cumplimiento estrictos no pueden arriesgarse a que las funciones de IA se activen accidentalmente y potencialmente filtren información, especialmente en implementaciones grandes o complejas gestionadas mediante infraestructura como código.
En primer lugar, la IA no se puede activar por accidente: cada función de IA requiere una configuración deliberada con su propia clave API y proveedor, y no ofrecemos ningún servicio de IA alojado por Devolutions que pudiera activarse silenciosamente. Reconocimos la necesidad de poder desactivar las funciones que llaman a servicios externos incluso antes de que la IA se convirtiera en una preocupación, así que los mismos controles que permiten a los administradores desactivar las capacidades en línea se aplican ahora también a las capacidades de IA.
Para una función como el asistente de IA en RDM, incluso cuando un usuario tiene su propia clave, los administradores pueden forzar su desactivación mediante directivas de grupo, de modo que la configuración se aplica de forma centralizada y se mantiene coherente en todos los equipos. Las funciones de IA actuales no son tan distintas de las funciones en línea, en el sentido de que algunos entornos requieren desactivarlas por completo.
IA frente a la lógica determinista clásica
Si una tarea de categorización se pudiera resolver igual de bien con lógica if/else o case, ¿optarían por esa vía en lugar de la IA? Y, ¿existe el riesgo de que una solución de IA «temporal» acabe siendo permanente y difícil de sustituir con el tiempo?
Mi opción por defecto es la lógica determinista siempre que las reglas se conozcan y haya que garantizar la corrección: es más barata, comprobable, auditable y repetible. Recurro a la IA cuando la entrada es abierta o lo bastante desordenada como para que enumerar todos los casos resulte poco práctico. Una lista fija de categorías es un if/else; clasificar texto libre es donde la IA se gana su lugar. También se pueden combinar ambas, y esa mezcla suele funcionar mejor. Las habilidades de agente, por ejemplo, funcionan muy bien junto con scripts de PowerShell: el script determinista se encarga de la parte predecible, y la IA se encarga de las excepciones.
Seguridad, costes, gobernanza, empleo, impacto medioambiental, filosofía de producto: este debate de preguntas y respuestas cubre mucho terreno. Lo que destaca en todas las respuestas de Marc-André es un hilo conductor constante: la adopción de la IA en Devolutions es intencionada, no reactiva. Las funciones siguen siendo opcionales y controlables por el administrador. Los costes se vigilan, pero no se limitan a costa de la productividad. Y en las grandes preguntas —el impacto medioambiental, el futuro del empleo, qué significa siquiera «nativo en IA»— la respuesta honesta es que nadie lo tiene del todo claro todavía, ni siquiera nosotros.
Esta es la primera entrega de lo que planeamos convertir en una serie recurrente. A medida que el panorama cambie y surjan nuevas preguntas de la comunidad, seguiremos trasladándolas a quienes toman las decisiones. ¿Tiene alguna cuestión que le gustaría que abordáramos en la próxima ronda? Publíquela en el Devolutions Forum; estamos atentos.
