Durante muitos anos, o debate sobre crianças e adolescentes nas redes sociais foi construído a partir de uma pergunta relativamente simples: quanto tempo os pais devem permitir que seus filhos permaneçam diante de uma tela? O acordo de aproximadamente US$ 18 bilhões celebrado pela Meta nos Estados Unidos demonstra que essa pergunta já não é suficiente. Talvez seja necessário formular outra, muito mais incômoda: até que ponto uma plataforma digital pode ser projetada para manter uma criança diante da tela?

A Meta, controladora do Facebook e do Instagram, chegou a um acordo com um grupo bipartidário de 52 procuradores-gerais de estados, territórios e do Distrito de Colúmbia dos Estados Unidos para encerrar uma ampla frente de disputas envolvendo a utilização das plataformas por crianças e adolescentes. O acordo surgiu durante o julgamento, perante a Justiça Federal da Califórnia, de ações movidas por 29 estados, em uma controvérsia que poderia resultar em sanções de proporções extraordinárias.

As acusações atingem o coração do modelo econômico das plataformas digitais. Os estados sustentaram que Facebook e Instagram teriam sido deliberadamente concebidos com funcionalidades capazes de estimular o uso compulsivo por crianças e adolescentes, enquanto a empresa teria minimizado ou apresentado inadequadamente os riscos associados aos produtos. Também foram formuladas acusações relacionadas à coleta de dados pessoais de crianças.

Não se está falando apenas da existência de conteúdos inadequados publicados por terceiros. O problema jurídico deixa de estar exclusivamente naquilo que alguém publica e alcança a própria “arquitetura da plataforma”: mecanismos de recomendação, notificações, métricas de popularidade, personalização, reprodução contínua de conteúdos e diferentes recursos destinados a aumentar o engajamento e prolongar a permanência do usuário.

Durante muito tempo, as plataformas digitais puderam sustentar que ofereciam essencialmente uma infraestrutura tecnológica na qual os próprios usuários decidiam o que publicar, consumir e compartilhar. Essa explicação perde força quando o debate deixa de se concentrar exclusivamente no conteúdo e passa a examinar a arquitetura que determina como esse conteúdo será apresentado.

Uma plataforma contemporânea não apenas hospeda conteúdos. Ela seleciona, recomenda, hierarquiza, repete, notifica e aprende continuamente quais estímulos são capazes de capturar a atenção de cada usuário. O algoritmo não é um espectador neutro da experiência digital. Ele participa ativamente de sua construção.

E existe uma diferença jurídica fundamental quando o usuário submetido a essa arquitetura é uma criança ou um adolescente. Sua capacidade de compreender os mecanismos econômicos, psicológicos e tecnológicos empregados para capturar atenção não pode ser equiparada à de um adulto. Invocar exclusivamente autonomia individual, liberdade de escolha ou responsabilidade parental, portanto, não resolve o problema.

É verdade que os pais possuem responsabilidade pela educação digital de seus filhos. Mas essa constatação não autoriza transferir integralmente às famílias os riscos produzidos por sistemas tecnológicos desenvolvidos por algumas das maiores empresas do planeta, dotadas de enorme capacidade de coleta de dados, experimentação comportamental e personalização algorítmica.

Há uma assimetria evidente. De um lado, uma criança diante de uma tela. Do outro, sistemas capazes de aprender continuamente quais imagens, vídeos, notificações e estímulos são mais eficientes para mantê-la conectada.

A Meta, naturalmente, apresenta outra perspectiva. A empresa não reconheceu responsabilidade ou irregularidade ao celebrar o acordo. Sustenta que as medidas negociadas dão continuidade a iniciativas que já vinha desenvolvendo para proteger adolescentes e ampliar os instrumentos de supervisão parental. Defende ainda que uma solução verdadeiramente eficaz não pode atingir somente Facebook e Instagram, porque adolescentes transitam continuamente entre diferentes plataformas.

O argumento merece consideração. Se uma plataforma estabelece severas limitações enquanto suas concorrentes mantêm mecanismos mais permissivos, existe a possibilidade concreta de simples migração dos usuários. A proteção digital de crianças e adolescentes dificilmente será eficiente se construída como obrigação isolada de uma única empresa. O problema pertence ao ecossistema digital.

Essa preocupação aparece de maneira bastante peculiar na própria estrutura financeira do acordo. Aproximadamente 70% dos US$ 18 bilhões serão pagos aos estados participantes ao longo de dez anos. Os 30% restantes estão vinculados a condições que envolvem a adoção, por YouTube e TikTok, de medidas semelhantes e pagamentos correspondentes. O acordo procura, assim, transformar uma controvérsia envolvendo a Meta em instrumento de indução de padrões para toda a indústria.

Entre as medidas previstas estão limite diário padrão de duas horas para adolescentes, que somente poderá ser desativado com autorização dos pais; bloqueio padrão de acesso ao Facebook e Instagram entre meia-noite e seis horas da manhã; suspensão de notificações durante o horário escolar; avisos periódicos durante períodos contínuos de utilização; mecanismos de verificação etária e novos instrumentos de supervisão parental. Se outras grandes plataformas aderirem ao modelo, algumas dessas restrições se tornam ainda mais severas.

Durante anos, parte considerável do debate público sobre dependência digital concentrou a responsabilidade sobre o indivíduo e sua família: faltaria disciplina ao adolescente, fiscalização aos pais ou educação digital dentro de casa. Mas, quando a solução negociada passa justamente pela alteração dos mecanismos de tempo de utilização, notificações, funcionamento noturno, recomendação e supervisão, torna-se cada vez mais difícil tratar a arquitetura tecnológica como elemento indiferente ao comportamento do usuário.

O desenho da plataforma passa a integrar definitivamente a discussão jurídica sobre os danos eventualmente produzidos por ela. É aqui que o acordo norte-americano revela algo ainda maior. No capitalismo informacional, atenção significa permanência. Permanência produz dados. Dados aperfeiçoam perfis. Perfis tornam a publicidade mais precisa. E publicidade mais eficiente produz receita.

O tempo do usuário deixou de ser apenas tempo. Tornou-se ativo econômico.

O acordo não demonstra, por si só, que Facebook ou Instagram sejam responsáveis por todos os problemas psicológicos associados ao uso excessivo das redes sociais. Tampouco autoriza estabelecer automaticamente uma relação causal entre utilização de plataformas e qualquer transtorno mental.  Também não significa que pais deixaram de possuir responsabilidade sobre a educação digital de seus filhos.

O que muda é a distribuição dessa responsabilidade.

A família responde pela educação. O usuário responde por suas escolhas na medida de sua capacidade. Mas quem projeta o ambiente digital também precisa responder pelas escolhas tecnológicas que faz.

Porque design também é decisão. Decidir quando notificar, o que recomendar, qual conteúdo repetir, como medir popularidade, quanto facilitar a permanência e quão difícil tornar a interrupção não são acontecimentos espontâneos produzidos pela tecnologia. São escolhas incorporadas ao produto.

A responsabilidade digital começa, assim, a migrar do conteúdo para a arquitetura. O algoritmo não possui consciência, vontade ou personalidade jurídica. Não será ele quem comparecerá perante um tribunal. Mas as escolhas incorporadas à sua arquitetura são escolhas economicamente orientadas, tecnicamente implementadas e juridicamente relevantes.