The Source Inteligência artificial
Artigo

Como criar uma estratégia de IA que priorize a transparência: sete perguntas para fazer ao seu provedor de DevOps

Descubra o que é importante saber antes de adotar uma ferramenta de IA, evitando a exposição de dados confidenciais ou o comprometimento dos direitos de propriedade intelectual.

November 13, 2023 5 min de leitura
Robin Schulman
Robin Schulman Chief Legal Officer

A IA permite que as empresas aprimorem as práticas de desenvolvimento de software, aumentando a eficiência e reduzindo as durações de ciclo, mas seu uso não deve comprometer a privacidade e a segurança dos dados. A transparência em torno da proteção de dados e da propriedade intelectual deve ser uma parte central da estratégia de IA de qualquer empresa. A transparência é ainda mais importante para as empresas que usam a IA como parte do DevOps, pois elas precisam saber com o que estão concordando ao usar os recursos da IA e como as atualizações serão comunicadas.

No GitLab, a transparência é um dos nossos principais valores. À medida que continuamos a expandir o GitLab Duo, nosso conjunto de recursos com tecnologia de IA para todo o ciclo de vida do desenvolvimento de software, a transparência continua sendo uma prioridade.

O relatório Estado da IA no Desenvolvimento de Software do GitLab revelou que as equipes estão otimistas em relação à adoção da IA, e 83% dos participantes afirmaram que é essencial implementar a IA em seus processos de desenvolvimento de software para evitar ficar para trás. No entanto, quase o mesmo número de participantes (79%) também expressou preocupação com o fato de as ferramentas de IA terem acesso a suas informações privadas e propriedade intelectual.

Muitos de nossos clientes perguntam por onde devem começar ao avaliar uma nova ferramenta de IA em seu ciclo de vida do desenvolvimento de software. Para que você tenha uma visibilidade melhor das medidas que seu provedor de DevOps está adotando para proteger os dados e a propriedade intelectual da sua empresa, confira aqui sete perguntas importantes (e também como o GitLab Duo se compara).

1. Quais modelos de linguagem de grande porte (LLMs) alimentam os recursos de IA na plataforma?

Como cada LLM tem diferentes pontos fortes, configurar sua arquitetura de IA com diversos modelos para casos de uso específicos pode ser uma estratégia eficaz. No entanto, é importante garantir que os provedores de DevOps sejam transparentes quanto aos LLMs utilizados em seus recursos de IA e ao local específico onde esses modelos estão hospedados.

Os recursos do GitLab Duo não dependem de um único modelo. Desenvolvemos o GitLab Duo com a flexibilidade para usar o modelo que oferece o melhor resultado para cada caso de uso. Continuamos nosso compromisso com a transparência ao identificar claramente os modelos que alimentam os recursos do GitLab Duo na nossa documentação disponível ao público.

2. Quem tem controle e acesso aos modelos?

Todas as empresas devem conseguir identificar quem tem controle e acesso aos LLMs em uso. Se um terceiro tiver controle e acesso, ele será identificado pelo provedor de DevOps como um subcontratado? Se algum afiliado tiver controle e acesso, ele será claramente identificado como um subcontratado?

O GitLab Duo utiliza modelos de terceiros hospedados na infraestrutura de nuvem. Os fornecedores desses modelos e os termos dos serviços oferecidos ao GitLab foram escolhidos por estarem alinhados ao compromisso do GitLab com a privacidade e a proteção da propriedade intelectual do cliente.

Todos os nossos subcontratados estão listados na página de subcontratados. Os clientes podem se cadastrar se quiserem ser notificados quando a página for atualizada.

3. Que medidas de proteção você oferece para reduzir as preocupações dos clientes sobre os riscos percebidos ao usar resultados gerados por IA?

É essencial saber quais proteções o provedor de DevOps oferece em relação aos resultados gerados por IA e como essa garantia é atendida.

O GitLab indenizará você e protegerá seu direito de usar os resultados gerados pelo GitLab Duo. Isso inclui a defesa contra alegações de que esses resultados violam os direitos de propriedade intelectual de terceiros.

4. Quais são os benefícios dessas proteções? Elas são automáticas ou preciso adotar alguma medida para ter direto a elas?

Mesmo que você saiba que seu provedor de DevOps inclui proteções relacionadas aos riscos do uso de resultados gerados por IA, é importante saber se há limitações e quais delas estão associadas a essas proteções.

O GitLab protege seu direito de usar os resultados gerados pelo GitLab Duo, contanto que você:

  1. não modifique o resultado;
  2. tenha o direito válido de usar suas entradas;
  3. tenha pago pelos recursos de IA; e
  4. tenha avaliado os resultados antes de usá-los ou basear-se neles.

No momento, você não precisa ativar nenhum recurso ou filtro para receber essa proteção.

5. Eu mantenho meus direitos de propriedade intelectual (PI) sobre as entradas inseridas nos recursos de IA?

A PI é a base de uma empresa. Portanto, você deve saber como um provedor de DevOps lida com seus direitos em relação às entradas adicionadas aos recursos de IA.

No GitLab Duo, o conteúdo inserido por você continua sendo seu. O GitLab não reivindica a propriedade dos seus dados de entrada.

6. Sou proprietário do resultado (ou das sugestões) gerado pelos recursos de IA?

Uma questão igualmente importante é saber se você tem o que é gerado pelos recursos de IA, como resultados e sugestões, especialmente se forem incorporados ao seu software.

Embora o cenário legal e regulatório relativo aos resultados gerados por IA ainda esteja em desenvolvimento, a posição do GitLab é clara: não reivindicamos a propriedade de nenhum resultado gerado pelo GitLab Duo. O resultado gerado pelo GitLab Duo pode ser usado a seu critério e, se uma reivindicação de terceiros surgir do uso do resultado gerado pelo GitLab Duo, o GitLab intervirá em sua defesa.

7. Onde encontro os termos, as políticas e os compromissos que regem o uso dos recursos de IA?

Os provedores de DevOps devem poder compartilhar documentação específica sobre como seus recursos de IA utilizam os dados dos usuários.

Confira estes recursos relevantes para os clientes do GitLab:

Saiba mais

Sem a transparência dos fornecedores de ferramentas de IA, as empresas não conseguem discernir os riscos relacionados ao tratamento de informações confidenciais e dados de clientes, segredos comerciais e direitos de propriedade intelectual da empresa. O GitLab continua comprometido com a privacidade e a transparência. Com o GitLab Duo, empresas e organizações regulamentadas podem adotar fluxos de trabalho, garantindo o controle sobre o uso de seus dados confidenciais.

Saiba mais sobre a abordagem de privacidade em primeiro lugar do GitLab para IA na documentação do GitLab Duo.

Principais conclusões
  • A IA aumenta a eficiência do software, mas requer transparência para proteger a privacidade e os direitos de propriedade intelectual.
  • O GitLab prioriza a transparência no uso da IA, garantindo a proteção de dados e a confiança do cliente.
  • O GitLab Duo oferece os benefícios da IA mantendo um compromisso claro com a propriedade e a privacidade.