La IA permite a las organizaciones mejorar las prácticas de desarrollo de software al aumentar la eficiencia y reducir la duración del ciclo, pero su uso no debe ser a costa de la privacidad y la seguridad de los datos. La transparencia en torno a la protección de datos y la propiedad intelectual debe ser una parte esencial de la estrategia de IA de cualquier organización. Para las organizaciones que integran IA en DevOps, la transparencia es fundamental, ya que necesitan saber a qué están accediendo al usar funciones de IA y cómo se comunicarán las actualizaciones.
En GitLab, la transparencia es uno de nuestros valores fundamentales. A medida que seguimos expandiendo GitLab Duo, nuestro conjunto de funcionalidades con tecnología de IA para todo el ciclo de desarrollo de software, la transparencia sigue siendo una prioridad.
Según el informe sobre el estado de la IA en el desarrollo de software de GitLab, los equipos se sienten optimistas con respecto a la adopción de la IA, y el 83 % de los encuestados indicó que es esencial implementar la IA en sus procesos de desarrollo de software para evitar quedarse atrás. Sin embargo, casi el mismo número de participantes (el 79 %) también expresó su preocupación por el hecho de que las herramientas de IA tuvieran acceso a su información privada y propiedad intelectual.
Muchos de nuestros clientes preguntan por dónde deben comenzar al evaluar una nueva herramienta de IA en su ciclo de desarrollo de software. Para ayudarle a tener una idea más clara de lo que su proveedor de DevOps está haciendo para proteger los datos y la propiedad intelectual de su organización, aquí tiene siete preguntas que puede hacerle (y cómo encaja GitLab Duo).
1. ¿Qué modelos de lenguaje grandes (LLM) impulsan las funcionalidades de IA en su plataforma?
Los distintos LLM tienen fortalezas diferentes, por lo que puede resultar sumamente útil configurar su arquitectura de IA con varios modelos para casos de uso específicos. Sin embargo, es importante garantizar que los proveedores de DevOps sean transparentes sobre los LLM que utilizan para sus funcionalidades de IA, así como los detalles sobre dónde se alojan los LLM.
Las funcionalidades de GitLab Duo no utilizan un único modelo. Hemos creado GitLab Duo con la flexibilidad necesaria para utilizar el modelo que proporcione el mejor resultado para cada caso de uso. Continuamos nuestro compromiso con la transparencia al identificar claramente los modelos que impulsan las funcionalidades de GitLab Duo en nuestra documentación disponible públicamente.
2. ¿Quién tiene control y acceso a los modelos?
Cada organización debe poder identificar quién tiene control y acceso a los LLM que está utilizando. Si un tercero tiene control y acceso, ¿el proveedor de DevOps lo incluye como subprocesador? Si los afiliados tienen control y acceso, ¿están claramente identificados como subprocesadores?
GitLab Duo funciona con modelos de terceros alojados en infraestructuras en la nube, y los proveedores de estos modelos y los términos en los que prestan servicios a GitLab se eligieron porque respaldan el compromiso de GitLab con la privacidad y la protección de la propiedad intelectual de los clientes.
Enumeramos claramente a todos nuestros subprocesadores en nuestra página de subprocesadores, y los clientes pueden registrarse para recibir una notificación cuando se realicen actualizaciones en esta página.
3. ¿Qué protección ofrece para aliviar las preocupaciones de los clientes relacionadas con los riesgos percibidos de usar resultados generados por IA?
Es esencial saber qué protecciones proporcionará un proveedor de DevOps con respecto a los resultados generados por IA y cómo se cumplirá esa garantía.
GitLab indemnizará a sus clientes y protegerá su derecho a utilizar los resultados generados por GitLab Duo, asimismo, los defenderá en caso de reclamaciones por infracción de los derechos de propiedad intelectual de terceros.
4. ¿Cómo obtengo el beneficio de esas protecciones? ¿Las protecciones son automáticas o debo tomar alguna medida para recibirlas?
Incluso si sabe que su proveedor de DevOps incluye protecciones relacionadas con los riesgos de usar los resultados generados por IA, es importante saber qué limitaciones, si las hubiera, están asociadas con esas protecciones.
GitLab protege su derecho a utilizar los resultados generados por GitLab Duo siempre que usted:
- no haya modificado el resultado;
- tenga un derecho válido a utilizar sus entradas;
- haya pagado por la(s) funcionalidad(es) de IA; y
- haya evaluado el resultado antes de utilizarlo o basarse en él de cualquier otra forma.
En este momento, no necesita habilitar ni activar ninguna funcionalidad ni filtro para recibir esta protección.
5. ¿Conservo mis derechos de propiedad intelectual (PI) sobre las entradas introducidas en las funcionalidades de IA?
La propiedad intelectual es la base de una organización y, por lo tanto, debe saber cómo un proveedor de DevOps gestionará sus derechos con respecto a las entradas que agregue a las funcionalidades de IA.
Con GitLab Duo, usted conserva la propiedad del contenido de sus entradas. GitLab no reclama la propiedad de sus entradas.
6. ¿Los resultados (o sugerencias) generados a partir de las funcionalidades de IA me pertenecen a mí?
Una cuestión igualmente importante es si le pertenece lo que se genera a partir de las funcionalidades de IA, tanto el contenido como las sugerencias, especialmente si se incorporan a su software.
Si bien el panorama legal y regulatorio relacionado con el resultado generado por IA se está desarrollando, la postura de GitLab es clara. GitLab no se adjudica la propiedad de ningún resultado generado por GitLab Duo. El resultado generado por GitLab Duo se puede utilizar a su discreción y, si surge una reclamación de terceros por el uso del resultado generado por GitLab Duo, GitLab intervendrá y le defenderá.
7. ¿Dónde se encuentran los términos, políticas y compromisos que rigen el uso de sus funcionalidades de IA?
Los proveedores de DevOps deben poder compartir documentación específica sobre cómo sus funcionalidades de IA utilizan sus datos.
Estos son los recursos relevantes para los clientes de GitLab:
- Contrato de suscripción a GitLab
- Términos de funcionalidades de IA
- Declaración de privacidad de GitLab
- Política de uso aceptable
- Documentación de GitLab Duo
Más información
Sin la transparencia de los proveedores de herramientas de IA, las organizaciones no pueden discernir los riesgos en torno al manejo de la información confidencial y los datos de los clientes, los secretos comerciales y los derechos de propiedad intelectual de la organización. GitLab mantiene su compromiso con la privacidad y la transparencia. Con GitLab Duo, las empresas y organizaciones reguladas pueden adoptar flujos de trabajo con tecnología de IA con la certeza sobre cómo se gestionan sus datos confidenciales.
Puede obtener más información sobre el enfoque centrado en la privacidad de GitLab para la IA en la documentación de GitLab Duo.