blog

Jun 22, 2023

IA em compras municipais: cinco armadilhas a evitar

À medida que as administrações municipais consideram incorporar tecnologias emergentes como a Inteligência Artificial (IA) nos seus sistemas, a sua utilização nos seus procedimentos de aquisição deve ser cuidadosamente considerada. IA

À medida que as administrações municipais consideram incorporar tecnologias emergentes como a Inteligência Artificial (IA) nos seus sistemas, a sua utilização nos seus procedimentos de aquisição deve ser cuidadosamente considerada. A IA é uma nova ferramenta poderosa que pode ser benéfica, mas também traz consigo questões éticas e de segurança que os órgãos públicos terão de enfrentar. Aqui estão cinco armadilhas potenciais a serem evitadas ao considerar o uso de IA para compras: para compras:

1.Dependência de Tecnologia: A utilização da IA ​​nas compras pode aumentar significativamente a eficiência e agilizar os processos. Por exemplo, pode ser utilizado para redigir especificações para solicitações simples ou avaliar propostas, reduzindo o tempo e os recursos necessários. No entanto, as informações que a IA produz nem sempre são precisas, pelo que os funcionários municipais que dependem demasiado desta tecnologia podem levar a potenciais erros no processo de aquisição. Não importa quão precisa seja uma especificação escrita por IA, ela ainda requer uma equipe de compras experiente para avaliá-la quanto aos requisitos específicos da cidade antes de ser publicada.

2. Preocupações de segurança: A IA pode ajudar a melhorar a segurança nas compras, aproveitando algoritmos de aprendizado de máquina e análise de dados em tempo real para identificar vulnerabilidades potenciais nas compras de tecnologia da informação (TI). A detecção de possíveis problemas nas compras de TI pode permitir que as cidades resolvam proativamente quaisquer preocupações de segurança cibernética que, de outra forma, poderiam passar despercebidas. No entanto, as ferramentas alimentadas por IA não estão isentas de vulnerabilidades próprias, e cibercriminosos experientes podem explorá-las, levando potencialmente a ameaças à segurança. Os departamentos de TI da cidade devem trabalhar com o pessoal de compras para implementar medidas de segurança robustas para proteger informações confidenciais e garantir a integridade dos sistemas da cidade.

3.Preconceito e discriminação: Infelizmente, como as ferramentas alimentadas pela IA são programadas por seres humanos imperfeitos com preconceitos conscientes e inconscientes, podem perpetuar a discriminação antiética nas compras. Certos algoritmos podem ser programados com preconceitos que refletem preconceitos sociais, geográficos ou económicos, levando a um tratamento injusto de determinados fornecedores ou produtos. Por exemplo, se uma solicitação gerada por IA estiver aberta a fornecedores de qualquer área geográfica, mas o responsável pelas compras não analisar as especificações para incluir essa informação, os potenciais fornecedores de fora dos limites da cidade podem acreditar incorretamente que as suas propostas não serão consideradas. Os responsáveis ​​pelas compras municipais devem examinar cuidadosamente tudo o que é gerado pela IA para garantir que todas as compras respeitam os padrões éticos da sua cidade.

4. Superações de custos: A utilização da IA ​​pode levar a poupanças de custos significativas, ajudando o pessoal de compras a identificar soluções mais económicas durante o processo de pesquisa de mercado. No entanto, também pode resultar em custos excessivos se não for gerido adequadamente. As ferramentas alimentadas por IA podem recomendar soluções que inicialmente podem parecer menos dispendiosas, mas que podem não ser realmente rentáveis ​​a longo prazo. As ferramentas alimentadas por IA não consideram que certas soluções têm despesas de manutenção ou atualização que serão necessárias à medida que a tecnologia avança. Veja o iPhone, por exemplo. As primeiras iterações dos iPhones não seriam capazes de executar o iOS mais recente, portanto, o uso continuado desses produtos exigiria uma atualização de hardware. Os responsáveis ​​pelas compras municipais devem avaliar cuidadosamente as recomendações da IA ​​para garantir que estão alinhadas com os seus objetivos orçamentais e de compras.

5. Falta de compreensão: A IA como ferramenta cotidiana ainda é relativamente nova e está em constante evolução. Há muitas coisas que mesmo os primeiros usuários não entendem. Dado que as novas tecnologias tendem a ser adotadas de forma um pouco mais lenta no domínio dos contratos públicos, o pessoal das compras municipais pode não ter a compreensão necessária para utilizar a IA de forma eficaz. Os algoritmos de IA podem ser difíceis de interpretar, mesmo pelos utilizadores mais experientes em tecnologia, e o pessoal de compras pode simplesmente não ter tempo no seu dia-a-dia para obter uma compreensão aprofundada de como funcionam. As administrações municipais devem conceber e implementar programas de formação completos antes de implementar quaisquer ferramentas alimentadas por IA ou documentos gerados por IA nas suas políticas, procedimentos e publicações.