Como a IA Funciona Mesmo
Toca num tema — dez peças de uma máquina, desmontadas devagar e voltadas a montar. Padrão, Não Magia · Os Dados de Treino · O Que um Modelo Aprende · Porque Soa Tão Seguro · Invenção Confiante · Enviesamento nos Dados · O Que Não Consegue Fazer · Falsificações e Prova · Usá-la Para Aprender · Quem Decide.
Dos 14 aos 16 anos
O que há lá dentro
Padrão, Não Magia — o que a máquina está mesmo a fazer
Tira a palavra inteligência e o que sobra é previsão. Estes sistemas são ajustados a montanhas enormes de texto ou de imagens até conseguirem adivinhar, com muita pontaria, o que costuma vir a seguir. Tudo o resto que se diz sobre eles assenta em cima desse mecanismo simples.
Os Dados de Treino — tudo aquilo que alguma vez viu
Um modelo é um reflexo do material que lhe foi mostrado, e de mais nada. Esse material é finito, foi recolhido por pessoas concretas num momento concreto e acaba num dia concreto. Saber o que entrou diz-te mais sobre o comportamento que sai do que qualquer descrição do algoritmo.
O Que um Modelo Aprende — milhares de milhões de números, nenhuma biblioteca
Dentro de um modelo treinado não há arquivo de documentos nem lista de factos que pudesses abrir e ler. Há milhares de milhões de números, cada um deles uma força de ligação, afinados para que o conjunto todo produza boas previsões. Tudo o que o sistema parece saber está espalhado por esses números em vez de estar arrumado em algum sítio.
Porque Soa Tão Seguro — fluência não é rigor
O tom de certeza que ouves é um estilo, aprendido em milhões de frases confiantes, e é aplicado a respostas frágeis com a mesma suavidade com que é aplicado a respostas sólidas. A voz não treme quando a previsão por baixo é fraca. Esse desencontro, entre o quanto uma coisa soa segura e o quanto devia soar, é o mais importante a perceber aqui.
Invenção Confiante — respostas inventadas com ar verdadeiro
Às vezes a resposta é pura e simplesmente inventada: um estudo que nunca foi escrito, uma data que nunca aconteceu, uma citação que ninguém disse. Isto não é uma avaria aparafusada a uma máquina de resto fiável. É a mesma previsão da peça seguinte a funcionar exatamente como foi desenhada, num ponto em que o material de treino não tinha nada de sólido para dar.
Enviesamento nos Dados — quem foi contado, quem ficou de fora
Se um grupo estiver pouco representado no material de treino, o sistema será simplesmente pior com esse grupo — mais calado quanto a isso e igualmente confiante. Não é uma questão de opinião nem de a máquina ter opiniões; é aritmética sobre quem foi contado. Foi medido repetidamente, com números publicados que podes ir consultar.
O Que Não Consegue Fazer — a lista honesta dos limites
Toda a tecnologia tem uma lista honesta de coisas que não consegue fazer, e conhecer essa lista é mais útil do que qualquer demonstração do que consegue. Estes sistemas não têm corpo, não têm experiência, não têm uma vida a decorrer e não têm nada em jogo no resultado. Isto não é um insulto; é uma especificação.
Falsificações e Prova — ver já não é acreditar
Um vídeo convincente de alguém a dizer algo que nunca disse pode agora ser feito numa tarde. Isso não quer dizer que já não se possa confiar em nada; quer dizer que o velho atalho de confiar nos olhos expirou e que tem de ser substituído por algo mais deliberado. A prova sempre foi uma questão de saber de onde veio a coisa, e não do ar real que tem.
Usá-la Para Aprender — a diferença que decide tudo
Há uma diferença real entre usar uma ferramenta para compreender uma coisa e usá-la para evitar compreender essa coisa, e não é uma questão de regras — é uma questão do que acontece dentro da tua cabeça. O esforço não é o preço da aprendizagem; é o mecanismo dela. Aquilo que retira o esforço retira a aprendizagem com ele, e fá-lo de maneira agradável.
Quem Decide — há sempre uma pessoa
Nada nestes sistemas caiu do céu. Houve pessoas a escolher o que recolher, o que deitar fora, o que premiar, onde aplicar e qual seria uma taxa de erro aceitável. Cada uma dessas coisas é uma decisão que podia ter sido outra, o que significa que cada uma pode ser questionada, regulada e mudada.
Continua a explorar
Outras línguas
A carregar o LeoNes…