IA Utopia ou Distopia? Compreendendo hiperbólicas recursivas antes de liberar a caixa de Pandora.

Liberdade Preetham

Seguir

O Simulacro

Ouvir

Marc Andreessen escreveu recentemente um post intrigante sobre como a IA salvará o mundo. Enquanto eu me vi concordando com vários de seus pontos e o aplaudo por chamar os extremistas que estão chamando de cenário apocalíptico. Gosto das analogias e links para artigos específicos sobre os quais ele está falando. Gosto até das propostas finais que ele faz. Bravo!

Mas ele me perdeu quando começou a bifurcar o processo de pensamento em uma forma de propaganda, usando termos como 'pânico moral', 'culto de segurança da IA' e aqueles que estão tentando 'suprimir a IA' para quase abranger todos aqueles que estão lutando pela segurança da IA! Nem todo mundo está na retórica amigo. Você poderia ter dedicado um parágrafo ou uma seção para pessoas que estão realmente do "seu lado" e focando na segurança da IA, pois é um perigo real e presente. Não é legal!

Em vez de se concentrar nos benefícios de curto prazo, ele embarcou em um discurso retórico sobre como 'o outro lado' simplesmente não entende e também assumiu uma posição de utopia, que também é um extremo. Quer dizer, de que outro lado? Qual 'culto'?

Essa visão da utopia de Marc e de todos os outros que ele apontou com razão para pintar a distopia é rebuscada e muito distante da verdade. Deixe-me ser claro: respeito Marc como um capitalista de risco, mas acredito que ele está fora de seu alcance neste tópico. Sem querer ofender, mas duvido que possamos entrar em um debate técnico aprofundado, especialmente considerando as complexidades matemáticas escondidas na caixa preta da IA.

O que Marc apresenta é em grande parte sua visão de mundo moral, que, ironicamente, ele pinta com o mesmo pincel largo que acusa os campos, cultos, batistas ou contrabandistas de usar. Pode-se ficar tentado a chamar a maioria dessas pessoas de "artistas do bullshido", buscando incitar o sensacionalismo sobre bondade/maldade moral e virtudes/vícios para capitalizar seus investimentos em IA. Você vê como usar palavras evoca emoções e pode ser descuidado para ser honesto? Mas se fizéssemos isso, não seríamos melhores do que eles. Tal abordagem de utopia ou distopia é reducionista, diminui o real problema em questão e, francamente, é um tanto infantil.

Quando se trata de tecnologia, a IA está em uma liga própria. É um erro de proporções épicas traçar paralelos entre a inteligência artificial e qualquer outra inovação tecnológica do passado. A resistência histórica contra a tecnologia, os argumentos dos antigos luditas, não pode começar a abranger o desafio monumental que a IA nos apresenta. A IA não é apenas um avanço exponencial, mas exibe características hiperbólicas recursivas, um fenômeno diferente de tudo que já vimos na história. A revolução da IA é paralela à explosão cambriana, um evento que os princípios darwinianos lutam para compreender totalmente até hoje.

Na minha opinião, todos os modelos econômicos atuais que projetam o impacto da IA são bastante darwinianos. Para ser honesto, nenhum de nós sabe como prever o futuro com certeza, tornando-nos um tanto sem noção quando se trata de pintar um quadro do que está por vir. Não sabemos se será distópico, utópico ou algo intermediário. Tudo o que podemos fazer é nos concentrar em entender a natureza dessa besta da maneira mais abrangente e rápida possível.

Por exemplo, a natureza do crescimento hiperbólico é tipicamente capturada pelas equações diferenciais de Riccati. No entanto, o domínio não mapeado de hiperbólicas recursivas, peculiar às curvas J que autoperpetuam a inteligência em taxas astronômicas, carece de um modelo definido. À medida que oscilamos no precipício desse salto tecnológico sem precedentes, confiar nas previsões econômicas do passado como guia para o futuro só nos desviará do caminho.

Mesmo que existam extremistas focados em cenários apocalípticos, por que focar neles? Eles não importam. Se se trata de formulação de políticas e regulamentos, estou com Marc. Vamos lutar para garantir que nenhum dos extremos embarque na captura regulatória. Se não fosse por isso, por que você tem que jogar todas as pessoas que estão trabalhando duro para construir medidas de segurança sob o ônibus "muitos dos meus leitores se sentirão preparados para argumentar que restrições dramáticas na produção de IA são necessárias para evitar a destruição da sociedade"? Descuidado para ser honesto.