Entrevista: O dilema do preconceito na IA da construção

Conteúdo Premium

O papel da inteligência artificial (IA) na construção cresce, mas os desafios com viés exigem soluções pensadas. Catrin Jones fala com Karoliina Torttila, diretora de IA na Trimble sobre algumas dessas soluções.

A IA transformou indústrias no mundo todo, e o setor de construção não é exceção. Da otimização da logística à melhoria das verificações de conformidade, a IA está moldando o ambiente construído de maneiras antes inimagináveis.

Karoliina Torttila, diretora de IA da Trimble Karoliina Torttila, diretora de IA da Trimble (Foto: Trimble)

Por exemplo, ferramentas de design com tecnologia de IA podem automatizar fluxos de trabalho, acelerando cronogramas de projetos e reduzindo erros. Sistemas de manutenção preditiva alavancam a IA para identificar potenciais falhas de equipamentos antes que elas ocorram, garantindo a segurança dos trabalhadores e minimizando o tempo de inatividade. Além disso, a IA está transformando o gerenciamento de recursos, ajudando as empresas de construção a alocar materiais de forma mais eficiente e sustentável.

No entanto, com esses avanços vêm desafios, particularmente em torno do viés. Para explorar isso, a Construction Europe falou com Karoliina Torttila, diretora de IA na Trimble. Com sua vasta experiência em desenvolvimento de IA, Torttila oferece insights sobre as causas do viés, suas implicações para a indústria e soluções potenciais.

Compreendendo o preconceito na IA

“Viés é um conceito essencial no desenvolvimento de IA�, começa Torttila. “Embora as discussões sociais frequentemente retratem o viés negativamente, na IA, algum nível de viés indutivo é necessário para que os modelos de aprendizado de máquina funcionem.� Ela explica que o viés indutivo permite que os modelos de IA façam suposições com base em dados de treinamento, permitindo que eles se concentrem em cenários plausíveis em vez de serem sobrecarregados por infinitas possibilidades.

No entanto, o problema surge com vieses prejudiciais decorrentes de dados de treinamento incompletos ou distorcidos. “Pegue o mapeamento geoespacial�, ela diz. “Se os dados de treinamento não tiverem representação de áreas remotas ou de certos continentes, os modelos de IA podem produzir mapas de qualidade inferior, levando a um planejamento de infraestrutura inadequado ou recursos mal alocados.�

Ela também aponta algoritmos de conformidade como outro exemplo. Se treinados em dados de apenas uma jurisdição, esses modelos podem sinalizar incorretamente ou ignorar problemas devido a discrepâncias regulatórias regionais, ela alerta.

Viés nos modelos de linguagem

Torttila se aprofunda nas nuances do viés em modelos de linguagem grandes (LLMs), que são cada vez mais usados em todos os setores. “O viés pode entrar em vários estágios de desenvolvimento, desde a fase de pré-treinamento, onde os modelos aprendem padrões de linguagem, até a fase de ajuste fino, onde a entrada humana introduz preferências subjetivas.�

Por exemplo, a tarefa humana de classificar saídas de modelos para qualidade introduz inerentemente viés. “Mesmo diretrizes rígidas para anotadores são baseadas na interpretação de alguém�, ela observa. Torttila também destaca desafios no alinhamento de segurança, onde esforços para evitar saídas prejudiciais podem às vezes corrigir demais. Houve exemplos de modelos de geração de imagens produzindo saídas inesperadas devido a essas correções.

O contexto da indústria

Na construção, as implicações do viés podem ser significativas. Os aplicativos de IA da Trimble geralmente envolvem dados sobre ativos do ambiente construído, como edifícios e pontes, em vez de informações pessoais. Essa distinção não elimina o viés, mas muda sua natureza. “Dados inadequados sobre materiais mais novos ou regiões sub-representadas podem resultar em erros que afetam projetos inteiros�, explica Torttila.

Ela enfatiza que a indústria deve abordar o preconceito com uma mentalidade construtiva. “Caçar preconceitos e punir falhas não promove melhorias�, ela afirma. Em vez disso, promover a colaboração entre as partes interessadas pode impulsionar o progresso.

“Um desenvolvimento positivo no ambiente construído, tanto na Europa quanto globalmente, é o número crescente de consórcios reunindo diferentes partes. Isso reflete um entendimento compartilhado de que os desafios que enfrentamos são grandes demais para qualquer entidade enfrentar sozinha.�

Quando questionada sobre soluções, Torttila é clara: a qualidade dos dados e a transparência são essenciais. “Incluir conjuntos de dados diversos e de alta qualidade é uma grande parte da mitigação do viés�, ela diz. Ela também ressalta a importância de construir sistemas em torno de modelos de IA que incluam salvaguardas como supervisão humana ou verificações secundárias de IA.

A regulamentação é outra área que ela acredita que desempenhará um papel fundamental. “O Ato Europeu de IA é um passo importante, mas é crucial encontrar o equilíbrio certo�, ela aconselha.

A regulamentação excessiva pode sufocar a inovação, limitando o desenvolvimento de IA apenas às maiores empresas mais bem financiadas. "Somente empresas como Microsoft, Google, OpenAI e algumas outras que desenvolvem essa tecnologia serão capazes de gerenciá-la. Startups menores, organizações sem fins lucrativos ou mesmo universidades podem não conseguir porque o fardo regulatório é muito pesado.

“Acredito que há um risco de atrapalhar o progresso se a regulamentação não for abordada de forma ponderada. É por isso que legislar e regulamentar no nível certo � seja qual for esse nível � deve ser o ponto de partida�, ela diz.

A dinâmica homem-máquina

Torttila destaca a importância da interação entre humanos e máquinas na mitigação de vieses. A IA não opera isoladamente. A maioria das indústrias, incluindo a construção, ainda não chegou a um ponto em que se sinta confortável com sistemas totalmente autônomos tomando decisões. A supervisão humana continua essencial, seja como um ponto de verificação final ou como parte de um ciclo de feedback mais amplo.

Ela também aborda a responsabilidade, uma questão controversa na ética da IA. “A responsabilidade é compartilhada entre desenvolvedores, usuários e a sociedade em geral�, ela argumenta. Transparência e definição de expectativas realistas são vitais. “A perfeição é inatingível, mas vamos começar de algum lugar, fornecer valor e então, esperançosamente, coletivamente faremos as coisas melhorarem.�

Os insights de Torttila revelam tanto os desafios quanto as oportunidades de abordar o viés na IA dentro da indústria da construção. À medida que a IA se torna cada vez mais integrada ao ambiente construído, abordagens ponderadas para dados, regulamentação e interação homem-máquina serão críticas. Embora o caminho à frente seja complexo, promover a colaboração e manter uma mentalidade construtiva pode garantir que a IA continue a fornecer benefícios transformadores para a sociedade e a construção.

Mantenha-se conectado

Receba as informações que você precisa, quando precisar, através de nossas revistas, boletins informativos e briefings diários líderes mundiais.

ENTRE EM CONTATO COM A EQUIPE
Andy Brown Editor, Editorial, Reino Unido - Wadhurst Tel: +44 (0) 1892 786224 E-mail: [email protected]
Neil Gerrard Editor Sênior, Editorial, Reino Unido - Wadhurst Tel: +44 (0) 7355 092 771 E-mail: [email protected]
Catrin Jones Editor Assistente, Editorial, Reino Unido � Wadhurst Tel: +44 (0) 791 2298 133 E-mail: [email protected]
Eleanor Shefford Gerente de Marca Tel: +44 (0) 1892 786 236 E-mail: [email protected]