Si bien Microsoft promueve vigorosamente sus productos de inteligencia artificial entre consumidores y empresas e integra profundamente Copilot en Windows 11, posiciona este servicio de inteligencia artificial como "uso de entretenimiento" en documentos oficiales. Los Términos de uso de Microsoft Copilot, actualizados en octubre del año pasado, establecen claramente que este modelo de lenguaje grande (LLM) es "solo para fines de entretenimiento" y los usuarios no deben usarlo para brindar consejos importantes y hacerlo bajo su propio riesgo.
Esta declaración contrasta marcadamente con la reciente publicidad de Microsoft sobre Copilot+ PC y usuarios empresariales, lo que plantea dudas sobre su confianza.
En los términos de uso, Microsoft escribió: "Copilot es sólo para fines de entretenimiento. Puede cometer errores y no funcionar como se espera. No confíe en Copilot para obtener consejos importantes. Utilice Copilot bajo su propia responsabilidad". El informe señaló que descargos de responsabilidad similares no son exclusivos de Microsoft, y otros grandes proveedores de servicios de modelos de IA también han adoptado declaraciones similares. xAI, por ejemplo, recuerda a los usuarios en sus términos de servicio que la inteligencia artificial está "en rápida evolución y es de naturaleza probabilística", por lo que el contenido generado puede ser "alucinatorio", contener contenido ofensivo, no reflejar con precisión personas o hechos reales, o incluso ser completamente inapropiado para el uso previsto por el usuario.
Aunque se ha demostrado que la IA generativa mejora la eficiencia en escenarios como la escritura y la programación, sigue siendo solo una herramienta que carece de un sujeto responsable y no puede soportar ninguna consecuencia legal o práctica por sus propios errores. Por lo tanto, los usuarios deben tener cuidado al confiar en sus resultados, ser escépticos con respecto a los resultados y realizar comprobaciones cruzadas. Sin embargo, el informe también recuerda que incluso si los usuarios son conscientes de estas limitaciones técnicas, los humanos siguen siendo susceptibles a la influencia del "sesgo de automatización", es decir, están naturalmente más inclinados a creer las respuestas dadas por las máquinas e ignorar datos o pistas contradictorias.
El riesgo de este sesgo de automatización se amplifica aún más en el contexto actual donde el contenido generado por IA se vuelve cada vez más natural y parece más "real". El artículo señala que cuando la IA puede dar respuestas lógicamente consistentes y autorizadas en la superficie, es más fácil para los usuarios creerlas con "sólo un vistazo", relajando así su vigilancia de forma invisible. En este caso, por un lado, los fabricantes alientan a los usuarios a adoptar ampliamente la IA en el trabajo y la vida a través de anuncios e integración de productos, pero por otro lado, utilizan descargos de responsabilidad estandarizados en términos de uso para eliminar responsabilidades. Esta tensión también se ha convertido en un fenómeno controvertido en el desarrollo actual de la industria de la IA.