O sistema de varredura de IA de Hertz está chamando a atenção do Congresso
Em um carta recente Dirigido ao CEO da Hertz, Gil West, o Subcomitê de Supervisão da Casa dos Estados Unidos sobre segurança cibernética, tecnologia da informação e inovação governamental disse que está buscando mais informações sobre o uso da empresa de carros de aluguel de scanners movidos a IA para avaliar os danos nos veículos alugados após uma onda de relatórios de mídia que documentavam as quedas de clientes sobre os varredura.
Especificamente, o subcomitê está buscando respostas sobre como o sistema funciona, pois descobriu que a gigante do aluguel de carros não parece incorporar nenhuma inspeção com desempenho humano após o dano dos sinalizadores do sistema em um veículo.
“Algumas outras empresas de aluguel de carros usam a IA como uma ferramenta, mas exigem que a equipe humana revise qualquer dano sinalizado pelo sistema de varredura antes de cobrar clientes; no entanto, a Hertz é aparentemente a única empresa de aluguel de carros nos EUA que emite avaliações de danos aos clientes sem revisão humana”, escreveu o presidente do subcomitê, Nancy Mace (Rs.C.).
Uveye
A carta ocorre em meio a relatórios de notícias de clientes irritados e enfurecidos da Hertz que documentaram suas experiências menos do que estelares de aluguel de veículos com esses sistemas automatizados baseados em IA. O subcomitê observou em suas preocupações de que os locatários foram atingidos por acusações exorbitantes depois de devolver seus carros.
“Os relatórios da mídia capturaram algumas reclamações de clientes questionando por que um processo totalmente automatizado geralmente não dá aos clientes uma avaliação de danos até que eles tenham deixado um local de aluguel e questionando mais por que eles tiveram dificuldade em falar com um representante da Hertz dentro do período de tempo antes da Hertz aumentar suas taxas de avaliação de danos aos clientes”, escreveu Mace. Além disso, escreveu que a questão poderia ter um efeito que “pode afetar as práticas regulatórias e de compras de agências federais para funcionários que alugam carros para negócios oficiais”.
Hertz disse anteriormente que seus sistemas de inspeção movidos a IA deveriam ser perfeitos
A Hertz começou a lançar scanners de veículos movidos a IA em alguns de seus locais de aeroportos nos Estados Unidos há alguns meses, especialmente aqueles em seus locais em hubs movimentados e de alto tráfego, como Atlanta, Charlotte, Dallas, Houston, Newark, New Jersey e Phoenix, no final das contas.
Uveye
De acordo com a Hertz, suas novas ferramentas movidas a IA são desenvolvidas em parceria com a empresa de tecnologia israelense Uveye e foram projetadas para “aprimorar significativamente a frequência, a precisão e a eficiência de seus processos de manutenção de veículos, garantindo um serviço confiável, maior disponibilidade de veículos e transparência para seus clientes”.
By using UVeye’s “AI-powered camera systems and machine learning algorithms” the rental car giant claimed that it is able to do automated inspections of all aspects of a rental car, including the body, glass, tires, and undercarriage for any potential damage or required replacement or maintenence, adding that by “complementing manual checks with UVeye’s technology, customers will enjoy more efficient and transparent automated checks when picking up and dropping off seus veículos. “
No entanto, os clientes imploraram para diferir. No subreddit R/Hertzrentals, muitos usuários documentaram suas próprias histórias de horror, incluindo uma do usuário/u/akkasca, que alegou que o scanner Hertz AI danos detectados no veículo Quando não havia, acrescentando que não havia como contestar as acusações.
“(…) estava chovendo naquela manhã. Enquanto eu dirigia pelo scanner de retorno, o carro estava naturalmente molhado da chuva. Apenas minutos depois, enquanto subia as escadas para pegar o ônibus espacial, recebi uma mensagem de Hertz:” danos detectados “. Cliquei no link e, preocupado, saí do ônibus espacial com toda a minha bagagem e voltei para inspecionar o veículo “, disseram eles. “A suposta área de danos? Completamente bem. Sem danos visíveis.
Pensamentos finais
Eu tenho um sentimento duvidoso com o idioma que Hertz e Uveye usaram no comunicado à imprensa, especificamente, a parte em que eles disseram: “por complementar as verificações manuais Com a tecnologia da Uveye, os clientes desfrutarão de cheques automatizados mais eficientes e transparentes ao pegar e deixar seus veículos “.
Isso me leva a acreditar que deveria haver algum tipo de elemento humano envolvido nesses tipos de inspeções e que as varreduras seriam seguidas por uma inspeção física real posteriormente para verificar se o dano relatado pela AI é de fato dano real. O fato de esse problema ter chamado a atenção do Congresso é um passo adiante em direção a alguma responsabilidade possível. Em sua carta, o subcomitê deu Hertz até 27 de agosto para “um briefing no nível da equipe para discutir as expectativas de Hertz sobre como essa tecnologia beneficiará seus clientes e como o uso da varredura de IA pode afetar o trabalho de Hertz como fornecedor do governo federal”. Vamos ver se algo sai disso.
