Janeiro de 2024. Uma visão: a governança de IA não se faz por protocolos esquematizados, ou não meramente por meio deles, como pode parecer em dezenas de white papers que colhemos dos países mais avançados em tecnologia. A ferramenta evolui e pode mais, incessantemente. As pessoas recebem-na com diferentes graus de consciência dos potenciais e dos riscos que ela aporta.
Hoje, não se trata tanto de auditar uma ferramenta de IA. Estamos, na maioria dos casos, em etapa anterior. Cabe-nos construí-la com qualidade e segurança. Mais que isso, dirigida aos objetivos certos. Afinal, ela representa uma renovação em processos, o que raramente é um movimento sutil nas empresas mais estruturadas.
A conclusão é que governança de IA hoje se faz melhor com base em diálogos, e certamente não em um diálogo com a própria máquina. É preciso primeiro alinhar as encomendas de IA aos mais profundos objetivos estratégicos das empresas. Objetivos das pessoas. Traduzir em operações de IA as pretensões mais interessantes ao negócio. Saber triar e criar entre as diversas ferramentas disponíveis a cada momento.
Os times de uma operação com IA vão ter que mudar. Os recursos intelectuais das áreas irão mudar. O processo de transição para a IA — escrevo com convicção — só tem pleno aproveitamento a cada etapa nova da tecnologia se o processo de implementação for ele mesmo um processo de inovação. Faz sentido?
Para isso nasceu a Rithmica. Como fundadora do Outsite — boutique de inovação de base psicanalítica — e da Algora — primeira auditoria ética de IA do país, percebi que faltava em minha proposta ao mercado um posicionamento mais ligado ao estado atual das empresas com IA.
A hora é de pensar a ferramenta não como mera operação, como substituta de braços, mas como via de inovação, abrindo possibilidade de um futuro mais interessante a cada negócio e seu ecossistema. Eis a influência do Outsite no projeto.
De outro lado, o histórico da Algora, vocacionada à auditoria, me fez ver o quanto a entrada da IA nas empresas implica em riscos jurídicos e reputacionais. Mais profundamente, há risco de erosão do laço das pessoas com a organização quando o tato das relações é substituído pela máquina hermética. Seja para quem usa a ferramenta dentro ou para quem recebe os resultados dela, fora.
Daí os diálogos. Eles serão incessantes na Rithmica. Com quem desenvolve a ferramenta, todos que a usam, até o consumidor final e quem estiver exposto ao seu impacto. Os stakeholders em diálogo. Ajustes finos, constantes. A ferramenta permite.
O diálogo é DNA da Rithmica inclusive na porta de entrada das demandas: trabalhamos sempre com experts nas áreas de atuação em que a IA será implementada. As grandes promessas de geração de valor com IA nos próximos anos estão em marketing, suprimentos, finanças e nos aspectos mais estruturados da gestão de pessoas.
Nós não somos experts em tudo - marketing, suprimentos, finanças. Nós sabemos inovação, filosofia da tecnologia, ética de IA, matemática, direito, psicanálise. Sabemos manter o diálogo como valor central. Nossos parceiros conhecem os campos corporativos em que a IA entra agora. Vamos cuidar dela juntos.
Daí nossa imensa alegria por iniciarmos a jornada da Rithmica em parceria com o Procurement Club e a Level. Pensar com vocês a dimensão de supply chain da IA: não poderíamos desejar competência maior.
A Rithmica é uma empresa de parcerias para governança de uma ferramenta que acelera muito as relações humanas, e não pode vir para aumentar distâncias. Deve trazer proximidade e ênfase no valor. A matemática das ferramentas não faz música sem as pessoas, instrumentistas. Eis nossa sensibilidade para a governança de IA. A regência dos algortimos é humana: Rithmica.
Andréa Naccache Com agradecimento a Isadora Valadares Assunção, parceira primeira na construção da Rithmica
Deixe seu comentário