O erro de AI “assustador” do Snapchat nos lembra que os chatbots não são pessoas. Mas à medida que as linhas embaçam, os riscos crescem

. Podemos nunca saber o que realmente aconteceu; Pode ser mais um exemplo de Ai “alucinatng”, ou o resultado de um ataque cibernético, ou mesmo apenas um erro operacional.

Сегодня мы запускаем My AI, нового чат-бота, работающего на последней версии технологии OpenAI GPT, которую мы адаптировали для Snapchat. My AI доступен в качестве экспериментальной функции для подписчиков Snapchat+, которая появится на этой неделе.

My AI может посоветовать идеи подарков на день рождения для вашей лучшей подруги, спланировать поход на длинные выходные, предложить рецепт ужина или даже написать хайку о сыре для вашего одержимого чеддером приятеля. Сеелйте meu ai со с с с сHесййныы, д и и с сс сс сс с с с с с с с с с с сi с с с с ai с с с се сi с с с ai с с с се сi с с с с сi с с с ai с с ai с с с се с сi с с с с с с с ai с с се сi с с с с с с с с с ai с с с с се сi с с с с с с с с с ai с с с с се сi с с с с с с land.

. , Жжж по пжжй пон понна поомомомомомоntas! Все разговоры с My AI будут сохранены и могут быть проанализированы для улучшения работы с продуктом. .

Хотя система My AI разработана таким образом, чтобы избегать необъективной, неверной, вредной или вводящей в заблуждение информации, ошибки могут иметь место. Ччоыы отавitivamente о ч ныы ни ои ни ни ни н ич ни ни н ч ч ч ч ч ч ч ч ч ч ииа ч ч ​​ч ч ч ч Da и и чч ч ч ч ч ч ч ч ч ч ч ч ч ife. .

Snapchat AI

Autor

1. Daswin de Silva, vice -diretor do Center for Data Analytics and Cognition, La Trobe University

Daswin de Silva não funciona, consulte, possui ações ou recebem financiamento de qualquer empresa ou organização que se beneficiaria deste artigo e não divulgou nenhuma afiliação relevante além de sua nomeação acadêmica.

Parceiros

A Universidade La Trobe fornece financiamento como membro da conversa au.

Os chatbots de inteligência artificial (AI) estão se tornando cada vez mais humanos pelo design, a ponto de alguns entre nós que podem lutar para distinguir entre humano e máquina.

Nesta semana, o My Ai Chatbot de Snapchat brilhou e postou uma história do que parecia uma parede e um teto, antes de parar de responder aos usuários. Naturalmente, a internet começou a questionar se o chatbot de chatgpt ganhou senciência.

Um curso intensivo na alfabetização da IA ​​poderia ter reprimido essa confusão. Mas, além disso, o incidente nos lembra que, à medida que os chatbots da IA ​​se aproximam de se assemelhar aos seres humanos, o gerenciamento de sua aceitação só ficará mais desafiador – e mais importante.

Das regras a chatbots adaptáveis

Desde que o chatgpt invadiu nossas telas no final do ano passado, muitas plataformas digitais integraram a IA em seus serviços. .

.

As ferramentas generativas de IA, incluindo geradores de imagens e chatbots, são construídas em grandes modelos de idiomas (LLMS). Esses modelos computacionais analisam as associações entre bilhões de palavras, frases e parágrafos para prever o que deveria vir a seguir em um determinado texto. Como coloca a co-fundadora do Openai, Ilya Sutskever, um LLM é

[…] Apenas um preditor muito, muito bom da próxima palavra.

. Esse treinamento, frequentemente entregue por inúmeras horas de trabalho humano barato, é a razão pela qual os chatbots de Ai agora podem ter conversas aparentemente humanas.

O ChatGPT do OpenAI ainda é o principal modelo de IA generativo. Seu lançamento marcou um grande salto de chatbots mais simples “baseados em regras”, como os usados ​​no atendimento ao cliente on-line.

Chatbots como humanos que falam para um usuário em vez de no eles foram associados a níveis mais altos de engajamento. Um estudo descobriu que a personificação de chatbots leva ao aumento do engajamento que, com o tempo, pode se transformar em dependência psicológica. .

Esses chatbots também têm sido eficazes no cumprimento dos objetivos organizacionais em vários ambientes, incluindo configurações de varejo, educação, local de trabalho e saúde.

O Google está usando IA generativa para construir um “Coach de Vida Pessoal” que supostamente ajudará as pessoas com várias tarefas pessoais e profissionais, incluindo o fornecimento de conselhos de vida e respondendo a perguntas íntimas.

Isso ocorre apesar dos próprios especialistas em segurança da IA ​​do Google alertando que os usuários possam crescer demais dependentes da IA ​​e podem experimentar “saúde diminuída e bem -estar” e uma “perda de agência” se eles seguirem conselhos sobre a vida disso.

Amigo ou inimigo – ou apenas um bot?

No recente incidente do Snapchat, a empresa colocou a coisa toda em uma “interrupção temporária”. Podemos nunca saber o que realmente aconteceu; Pode ser mais um exemplo de Ai “alucinatng”, ou o resultado de um ataque cibernético, ou mesmo apenas um erro operacional.

De qualquer maneira, a velocidade com que alguns usuários assumiram que o chatbot alcançou a senciência sugere que estamos vendo um antropomorfismo sem precedentes de AI. É composto pela falta de transparência dos desenvolvedores e falta de entendimento básico entre o público.

.

. Em outro exemplo, um chatbot chamado Tessa foi encontrado para oferecer conselhos prejudiciais às pessoas por meio de uma linha de apoio à alimentar.

Os chatbots podem ser particularmente prejudiciais aos mais vulneráveis ​​entre nós, e especialmente para aqueles com condições psicológicas.

Um novo vale estranho?

Você pode ter ouvido falar do efeito “Uncanny Valley”. Refere -se a esse sentimento desconfortável que você sente quando vê um robô humanóide que quase .

. Um leve pontinho pode levantar os cabelos na parte de trás do pescoço.

Uma solução pode ser perder a vantagem humana e reverter para chatbots que são diretos, objetivos e factais. Mas isso viria à custa do engajamento e da inovação.

Educação e transparência são fundamentais

Mesmo os desenvolvedores de chatbots avançados de IA geralmente não podem explicar como eles funcionam. No entanto, de certa forma (e no que diz respeito às entidades comerciais), os benefícios superam os riscos.

A IA generativa demonstrou sua utilidade em itens grandes, como produtividade, saúde, educação e até equidade social. . Então, como fazemos funcionar para nós?

Desde 2018, tem havido um impulso significativo para governos e organizações abordarem os riscos da IA. Mas a aplicação de padrões e regulamentos responsáveis ​​a uma tecnologia mais “humana” do que qualquer outra vem com uma série de desafios.

Atualmente, não há requisito legal para as empresas australianas divulgarem o uso de chatbots. Nos EUA, a Califórnia introduziu uma “conta de bot” que exigiria isso, mas especialistas jurídicos cederam buracos nela – e a conta ainda não foi aplicada no momento em que escreveu este artigo.

Além disso, o chatgpt e os chatbots similares são tornados públicos como “pré -visualizações de pesquisa”. Isso significa que eles geralmente vêm com várias divulgações sobre sua natureza prototípica, e o ônus para uso responsável cai no usuário.

A Lei de IA da União Europeia, a primeira regulamentação abrangente do mundo na IA, identificou regulamentação e educação moderadas como o caminho a seguir – já que o excesso de regulamentação pode acrogéter a inovação. Semelhante à alfabetização digital, a alfabetização da IA ​​deve ser mandatada em escolas, universidades e organizações e também deve ser libertada e acessível para o público.

• Inteligência Artificial (AI)
• Tecnologia
• Excanny Valley
• Snapchat
• Chatbots
• Modelo AI
• Grandes modelos de linguagem
• Chatgpt
• Ética da Inteligência Artificial

Você usa o AI chatbot do Snapchat? Aqui estão os dados que está puxando de você

Em abril, o Snap disponibilizou seu chatbot de IA, minha IA, disponível para usuários do Snapchat. A empresa diz que mais de 150 milhões de usuários conversaram com o chatbot. Snap diz que seu chatbot de AI está equipado com mais corrimãos do que chatgpt, o que deve torná -lo mais seguro para o Snapchatters mais jovens.

De acordo com a Statista, cerca de 20% dos usuários globais do Snapchat têm entre 13 e 17 anos, por isso é crucial que as crianças não sejam expostas a conteúdo inadequado que o chatbot possa gerar saída. Mas em algumas conversas experimentais com o bot, os usuários descobriram que o bot do Snapchat explicaria como se envolver em uso de substâncias menores de idade e atividade sexual.

Quando os Snapchatters começaram a conversar experimentalmente com minha IA, muitos ficaram curiosos sobre o acesso do chatbot à sua localização. Quando minha IA foi perguntada se ele tinha a localização de um usuário, ela imediatamente negaria ter acesso a dados de geolocalização.

Mas se um usuário solicitou uma recomendação de restaurante em sua área, minha IA poderia fornecer -lhes, provando que o bot tem acesso à localização do Snapchatters. As pessoas foram ao Twitter para expressar que estavam preocupadas com minha IA e começaram a ficar curiosas sobre quais dados do usuário o bot poderia acessar.

Então, quais dados minha IA coleta e o que o Snap faz com isso?

Minha IA pode acessar sua localização se você permitir que o Snapchat acesse sua localização. Snap diz que minha IA não coleta nenhum novo dados de localização e apenas extrai dos dados que você forneceu ao Snapchat.

Alguns usuários permitem um recurso do Snapchat chamado Modo Ghost que permite esconder sua localização de seus amigos e removê -lo do mapa snap. No entanto, o modo fantasma não garante que minha IA não possa acessar sua localização. Snap diz que, mesmo com o modo fantasma, minha IA pode acessar sua localização se você conceder permissão de rastreamento de localização para o Snapchat.

Conversas

O Snap armazena suas conversas com minha IA até que você as exclua manualmente, mas pode levar até 30 dias para os dados de conversa com minha IA para serem removidos dos servidores do Snapchat. Snap usa suas conversas com minha IA para treinar o modelo de IA e para melhor atingir você com anúncios personalizados.

A Política de Privacidade do Snapchat afirma que todos os snaps são excluídos dos servidores do Snapchat depois que todos os destinatários os veem. Mas Snap faz uma distinção clara de que os bate -papos enviados à minha IA não seguem esta diretriz e só são excluídos se você solicitar que o Snapchat as exclua. .