Resumo
- Mozilla lança iniciativa de código aberto chamada Llamafile para simplificar a execução de LLMs em hardware existente, sem necessidade de CPU pesada.
- Llamafile condensa a complexidade dos chatbots de IA em um único arquivo que pode ser executado em vários sistemas operacionais com instalação ou configuração mínima.
- O Google e a OpenAI também estão explorando LLMs locais, com o aplicativo AiCore do Google e o Gemini da OpenAI fornecendo recursos baseados em IA diretamente nos dispositivos.
À medida que a IA continua a evoluir, mais pessoas estão encontrando usos para grandes modelos de linguagem (LLMs), que podem ajudar em tudo, desde texto até geração de imagens. No entanto, nem todos começaram a aproveitar a IA nas suas vidas diárias. Em alguns casos, a IA e os LLMs ainda são vistos como intimidadores. Agora, a Mozilla quer ajudar a derrubar algumas das barreiras que cercam a IA.
A Mozilla anunciou que lançará uma nova iniciativa de código aberto chamada Llamafile. Ele explica que o objetivo por trás disso é ajudar as pessoas a executar LLMs no hardware que já possuem – sem necessidade de CPU específica para IA para serviços pesados. Llamafile funciona condensando toda a complexidade de um chatbot de IA em um único arquivo. Este arquivo pode ser executado em seis sistemas operacionais diferentes – Windows, macOS, Linux, OpenBSD, FreeBSD e NetBSD – e praticamente não requer instalação ou configuração.
Fonte: Mozilla
Com todos os seus LLMs condensados em um arquivo, você pode executá-los facilmente em seu computador existente localmente, sem necessidade de acesso à nuvem. Possuir o arquivo significa que você também pode transferi-lo para um dispositivo de armazenamento, se desejar, para uso em outro lugar. A Mozilla está se referindo ao Llamafile como IA local, explicando que você pode até desligar sua conexão Wi-Fi e implantá-la quando quiser.
Embora possa parecer um conceito novo, a Mozilla não é a única a pensar em como capitalizar os LLMs locais. O Google tem tentado, notavelmente, avançar na evolução da IA com seus próprios desenvolvimentos. Por exemplo, o aplicativo AiCore foi descoberto no Pixel 8 Pro após seu lançamento, mas pouco se sabia sobre sua funcionalidade na época. Desde então, mais detalhes foram divulgados por meio de sua listagem na Play Store, observando que o AiCore ajudará “recursos baseados em IA a serem executados diretamente em seu dispositivo usando os modelos básicos mais recentes”.
O Google também tem trabalhado arduamente para rivalizar com os desenvolvimentos da OpenAI, a empresa por trás do ChatGPT. Gemini é seu principal concorrente, considerado seu modelo de IA mais capaz e avançado até o momento. A empresa introduziu o Gemini em diferentes escalas – Ultra, Pro e Nano – cada uma projetada para operar em um nível diferente. Por exemplo, o Gemini pode ser implantado em dispositivos tão pequenos como telefones ou tão grandes como data centers.
No momento, não se sabe quanto potencial a IA tem, mas há muitas empresas procurando descobrir. Empresas como Google e OpenAI podem ter mais recursos para explorar o potencial. No entanto, não é provável que isso impeça outras entidades como a Mozilla de testar o terreno – e o resultado final pode ser benéfico para um bem maior.
