llm - Tech blog

Tech blog

llm

A collection of 11 posts

intelligenza artificiale

La Rivoluzione dell'IA: Come i Modelli di Diffusione e Nuove Architetture Sostituiranno gli LLM Attuali

Introduzione: Un Cambio Epocale in Arrivo Gli LLM (Large Language Models) come li conosciamo oggi sono già sulla via del tramonto. Nei prossimi 18 mesi, l'intelligenza artificiale assumerà un aspetto molto diverso, e questo articolo rappresenta il primo sguardo a ciò che li sostituirà. Cinque scoperte rivoluzionarie stanno

Opencode Local LLM test with Nemotron-3-Nano-30B-A3B vs Qwen3-Coder-30B-A3B vs gpt-oss-20b-mxfp4

Tested the new Nvidia model, Nemotron 3 Nano 30B A3B, focusing on its performance in local coding and interaction tasks. The model was evaluated using a quantized version, and the tests were conducted in CPU mode due to hardware limitations. The user compared the model's performance with other

Lo stato degli AI LLM, analizzati 1Trilione di token da Openrouter

Lo stato degli AI LLM, analizzati 1Trilione di token da Openrouter

Un recente studio empirico condotto da a16z e OpenRouter ha analizzato oltre 100 trilioni di token di interazioni con Large Language Models, fornendo la visione più completa mai realizzata sull'utilizzo reale degli LLM. Questo studio, basato su dati aggregati dalla piattaforma OpenRouter che serve milioni di sviluppatori e

Local Open-Source Alternatives to Cloud Code: Mistral Vibe and Open Code

In the AI landscape, users are increasingly seeking local, internet-independent solutions to maintain control over their data and reduce dependency on cloud services. Luigi's channel explores technologies you can control, and in this video, he reviews two emerging tools: Mistral Vibe and Open Code. These enable local LLM

llm-eval-simple a simple way to evaluate LLM for your use case

llm-eval-simple a simple way to evaluate LLM for your use case

Every week a new AI LLM is released, but will it really change your life? With llm-eval-simple, you can easily test new LLMs for your use case and have an objective metric. Which is the best LLM? Speed, knowledge, context size, efficacy, creativity, instruction following, censorship—it depends on your

Puoi davvero avere ChatGPT a casa? GPT-OSS 20B/120B da OpenAI

OpenAI ha annunciato il 5 agosto 2025 il rilascio di GPT-OSS, una nuova famiglia di modelli di intelligenza artificiale open source. Questo lancio segna un ritorno significativo all'apertura dopo il rilascio di GPT-2 nel 2019, riflettendo l'impegno di OpenAI nel rendere i benefici dell'AI

Immagina, puoi, Qwen3 Coder 30B A3B è l'AI locale che cambia tutto

Immagina, puoi, Qwen3 Coder 30B A3B è l'AI locale che cambia tutto

Qwen3 Coder 30B A3B è la prima AI locale che funziona 100% offline che ti permette di creare codice (non banale) e si integra con i tool (function calling) e IDE tipo VSCode. Ma non è tutto, funziona anche senza scheda video GPU e richiede SOLO 18GB di RAM per

L'Intelligenza Artificiale Locale su Linux: Sfide e Opportunità

L'adozione dell'intelligenza artificiale (IA) locale su sistemi Linux presenta ancora diverse sfide, nonostante i progressi tecnologici degli ultimi anni. Questo articolo esplora le problematiche attuali e le considerazioni da fare per chi è interessato a utilizzare l'IA locale su Linux. Architetture e Compatibilità 1.

Model Context Protocol (MCP): Superare i Limiti degli LLM con un Protocollo Aperto. Anche per AI locali!

I modelli di intelligenza artificiale, come quelli che utilizziamo quotidianamente, presentano limiti significativi: * Nessun accesso a dati in tempo reale * Impossibilità di interagire con il computer locale o servizi esterni (es. software installati) Queste barriere sono state mitigate, ma diventano critiche quando servono risposte basate su informazioni aggiornate o specifiche.

Stable Diffusion SDXL and LLAMA2 webui on Docker

Stable Diffusion SDXL and LLAMA2 webui on Docker

Running artificial intelligence on your own computer is fun, but is also a pain. Installing Stable Diffusion WebUI or Oobabooga Text generation UI is different, depending on your operating system and on your hardware (NVIDIA, AMD ROCM, APPLE M2, CPU,..) Docker allows to isolate as much as possible python packages,

Far funzionare l'Intelligenza Artificiale più potente sul computer di casa. LLAMA2 70B e Stable Diffusion SDXL

Far funzionare l'Intelligenza Artificiale più potente sul computer di casa. LLAMA2 70B e Stable Diffusion SDXL

L'AI è qui per rimanere, la questione di fondo è chi controlla l'intelligenza artificiale? In questo post vediamo come farla funzionare sul ns computer