llm - Tech blog (Page 2)

Tech blog

llm

A collection of 47 posts

Are Local LLMs good enough for Vibe Coding? Gemma4-26B-A4B vs Qwen3.5-35B-A3B

opencode Featured

Are Local LLMs good enough for Vibe Coding? Gemma4-26B-A4B vs Qwen3.5-35B-A3B

Following some "real world" agentic benchmarks with OpenCode (aka ClaudeCode opensource alternative) and Pi-Coding-Agent (aka the OpenClaw core harness). What to test? I created a small Bun/Svelte application an I ask to the LLM to do some changes that require custom skill usage and custom

The BEST Local LLM for opencode ! Gemma 4 26B A4B. No GPU required

Google's new Gemma 4 26B A4B is making waves in the local LLM community. This Mixture-of-Experts model only activates 4B parameters out of 26B, making it surprisingly fast on consumer hardware, even on a MacBook without a GPU. In a new video, the model is tested

Vitalik, il creatore di ethereum, parla di AI locale, sovrana e sicura

Vitalik, il creatore di ethereum, parla di AI locale, sovrana e sicura

Da chatbot ad agenti: il problema della sicurezza All'inizio del 2026 l'AI ha fatto un salto: non si tratta più di chatbot che rispondono a domande, ma di agenti che pensano a lungo, usano centinaia di strumenti e completano compiti complessi. OpenClaw è diventato il repo

La teoria di Internet morto non è più una semplice congettura. Dead Internet Theory

La teoria di Internet morto non è più una semplice congettura. Dead Internet Theory

Negli ultimi anni, molti osservatori hanno notato un cambiamento preoccupante nella qualità delle interazioni online: la crescente presenza di bot, contenuti generati da intelligenza artificiale e spam sta rendendo sempre più difficile distinguere ciò che è autenticamente umano da ciò che è artificiale. Questo fenomeno, noto come “Dead Internet Theory”

Intelligenza artificiale autoevolutiva: Autoresearch e ACE

intelligenza artificiale

Intelligenza artificiale autoevolutiva: Autoresearch e ACE

Il panorama della ricerca in intelligenza artificiale sta attraversando una trasformazione epocale. Due sviluppi recenti, apparentemente distinti ma concettualmente interconnessi, stanno gettando le basi per quella che molti definiscono la prossima era della ricerca automatizzata: Autoresearch di Andrej Karpathy e ACE (Agentic Context Engineering), presentato alla conferenza ICLR 2026. Mentre

OpenCode Benchmark Dashboard: Find the Best Local LLM for Your Computer

opencode Featured

OpenCode Benchmark Dashboard: Find the Best Local LLM for Your Computer

If you're looking to run large language models (LLMs) locally, finding the right balance between accuracy and speed can be challenging. OpenCode Benchmark Dashboard is a new tool that helps you compare different LLM performances directly on your hardware. What is OpenCode Benchmark Dashboard? OpenCode Benchmark Dashboard is

Accuracy vs Speed in Local LLMs: Finding Your Sweet Spot

Accuracy vs Speed in Local LLMs: Finding Your Sweet Spot

Local LLMs evolve fast. Balancing accuracy and performance is not one-size-fits-all; your best fit depends on hardware, use case, and how much context you need for your workflows. Accuracy vs speed chart created on my personal coding/agentic benchmark with llm-eval-simple The Core Trade-off

Harness Engineering per LLM: La Nuova Disciplina che Sta Rivoluzionando lo Sviluppo del Software

harness Featured

Harness Engineering per LLM: La Nuova Disciplina che Sta Rivoluzionando lo Sviluppo del Software

Il panorama dell'ingegneria del software sta attraversando una trasformazione epocale. Un nuovo termine tecnico sta emergendo con forza travolgente nel ecosistema dell'intelligenza artificiale: Harness Engineering. Questa disciplina rappresenta un cambio di paradigma fondamentale nel modo in cui concepiamo e costruiamo sistemi basati su Large Language Models

OpenClaw: L'Agente AI che Sta Rivoluzionando il Futuro del Software

openclaw Featured

OpenClaw: L'Agente AI che Sta Rivoluzionando il Futuro del Software

Il Progetto che ha fatto esplodere Internet Negli ultimi giorni, un progetto open-source ha letteralmente conquistato la rete: OpenClaw, l'agente AI personale creato da Peter Steinberger. Partito da zero, il repository GitHub ha raggiunto oltre 160.000 stelle praticamente overnight, dimostrando come la comunità stia abbracciando questa

Lo Stato dell'AI nel 2026: Un'analisi completa del futuro dell'intelligenza artificiale

intelligenza artificiale Featured

Lo Stato dell'AI nel 2026: Un'analisi completa del futuro dell'intelligenza artificiale

Il podcast #490 di Lex Fridman con Nathan Lambert (Allen Institute for AI) e Sebastian Raschka (autore di "Build a Large Language Model From Scratch") offre una panorama senza precedenti sullo stato attuale e futuro dell'intelligenza artificiale. Questo articolo analizza i punti chiave discussi, dalla competizione

GLM4.7-Flash the new Local LLM king at 30B A3B ?

GLM4.7-Flash represents Z.ai's latest breakthrough in the 30B parameter class, delivering a Mixture-of-Experts (MoE) model that balances high performance with efficiency. Released in January 2026, this model has quickly established itself as a formidable contender in agentic coding and general reasoning tasks. Technical

intelligenza artificiale

La Rivoluzione dell'IA: Come i Modelli di Diffusione e Nuove Architetture Sostituiranno gli LLM Attuali

Introduzione: Un Cambio Epocale in Arrivo Gli LLM (Large Language Models) come li conosciamo oggi sono già sulla via del tramonto. Nei prossimi 18 mesi, l'intelligenza artificiale assumerà un aspetto molto diverso, e questo articolo rappresenta il primo sguardo a ciò che li sostituirà. Cinque scoperte rivoluzionarie stanno

Opencode Local LLM test with Nemotron-3-Nano-30B-A3B vs Qwen3-Coder-30B-A3B vs gpt-oss-20b-mxfp4

Tested the new Nvidia model, Nemotron 3 Nano 30B A3B, focusing on its performance in local coding and interaction tasks. The model was evaluated using a quantized version, and the tests were conducted in CPU mode due to hardware limitations. The user compared the model's performance with other

Lo stato degli AI LLM, analizzati 1Trilione di token da Openrouter

Lo stato degli AI LLM, analizzati 1Trilione di token da Openrouter

Un recente studio empirico condotto da a16z e OpenRouter ha analizzato oltre 100 trilioni di token di interazioni con Large Language Models, fornendo la visione più completa mai realizzata sull'utilizzo reale degli LLM. Questo studio, basato su dati aggregati dalla piattaforma OpenRouter che serve milioni di sviluppatori e

Local Open-Source Alternatives to Cloud Code: Mistral Vibe and Open Code

In the AI landscape, users are increasingly seeking local, internet-independent solutions to maintain control over their data and reduce dependency on cloud services. Luigi's channel explores technologies you can control, and in this video, he reviews two emerging tools: Mistral Vibe and Open Code. These enable local

llm-eval-simple a simple way to evaluate LLM for your use case

llm-eval-simple a simple way to evaluate LLM for your use case

Every week a new AI LLM is released, but will it really change your life? With llm-eval-simple, you can easily test new LLMs for your use case and have an objective metric. Which is the best LLM? Speed, knowledge, context size, efficacy, creativity, instruction following, censorship—it depends

Puoi davvero avere ChatGPT a casa? GPT-OSS 20B/120B da OpenAI

OpenAI ha annunciato il 5 agosto 2025 il rilascio di GPT-OSS, una nuova famiglia di modelli di intelligenza artificiale open source. Questo lancio segna un ritorno significativo all'apertura dopo il rilascio di GPT-2 nel 2019, riflettendo l'impegno di OpenAI nel rendere i benefici dell&

Immagina, puoi, Qwen3 Coder 30B A3B è l'AI locale che cambia tutto

Immagina, puoi, Qwen3 Coder 30B A3B è l'AI locale che cambia tutto

Qwen3 Coder 30B A3B è la prima AI locale che funziona 100% offline che ti permette di creare codice (non banale) e si integra con i tool (function calling) e IDE tipo VSCode. Ma non è tutto, funziona anche senza scheda video GPU e richiede SOLO 18GB di RAM per

L'Intelligenza Artificiale Locale su Linux: Sfide e Opportunità

L'adozione dell'intelligenza artificiale (IA) locale su sistemi Linux presenta ancora diverse sfide, nonostante i progressi tecnologici degli ultimi anni. Questo articolo esplora le problematiche attuali e le considerazioni da fare per chi è interessato a utilizzare l'IA locale su Linux. Architetture e Compatibilità 1.

Model Context Protocol (MCP): Superare i Limiti degli LLM con un Protocollo Aperto. Anche per AI locali!

I modelli di intelligenza artificiale, come quelli che utilizziamo quotidianamente, presentano limiti significativi: * Nessun accesso a dati in tempo reale * Impossibilità di interagire con il computer locale o servizi esterni (es. software installati) Queste barriere sono state mitigate, ma diventano critiche quando servono risposte basate su informazioni aggiornate o specifiche.

Stable Diffusion SDXL and LLAMA2 webui on Docker

Stable Diffusion SDXL and LLAMA2 webui on Docker

Running artificial intelligence on your own computer is fun, but is also a pain. Installing Stable Diffusion WebUI or Oobabooga Text generation UI is different, depending on your operating system and on your hardware (NVIDIA, AMD ROCM, APPLE M2, CPU,..) Docker allows to isolate as much as possible python packages,

Far funzionare l'Intelligenza Artificiale più potente sul computer di casa. LLAMA2 70B e Stable Diffusion SDXL

Far funzionare l'Intelligenza Artificiale più potente sul computer di casa. LLAMA2 70B e Stable Diffusion SDXL

L'AI è qui per rimanere, la questione di fondo è chi controlla l'intelligenza artificiale? In questo post vediamo come farla funzionare sul ns computer