Recherche effectué dans :

Filtre actif, cliquez pour en enlever un tag :

Cliquez sur un tag pour affiner votre recherche :

[ << Page précédente (50) ] [ Page suivante (0) >> ]

Groq #llm, #MachineLearning

https://wow.groq.com

Basé à Mountain View.

Fine-tuning #llm

https://en.wikipedia.org/wiki/Fine-tuning_(deep_learning)

Voir aussi pre-training.

Replicate #llm, #MachineLearning, #SaaS

Managed Inference Service : https://replicate.com

Ollama #llm, #Inference

https://github.com/ollama/ollama

Get up and running with Llama 3.1, Mistral, Gemma 2, and other large language models.

Ollama est un Inference Engine (comme LLama.cpp).

Llama vision #MachineLearning, #llm, #artificial-intelligence

https://ollama.com/library/llama3.2-vision

Word embedding #llm, #MachineLearning, #vocabulaire

PrivateGPT #llm

Dépôt GitHub : https://github.com/zylon-ai/private-gpt

vLLM #llm, #Inference

Dépôt GitHub : https://github.com/vllm-project/vllm

Voir aussi Ollama, Llama.cpp.

Inference Engines #vocabulaire, #llm, #Inference, #JaiDécidé

Nom alternatifs à "Inference Engines" :

  • Exécuteur d'inférence (Inference runtime) ;
  • Bibliothèque d'inférence.

Personnellement, j'ai décidé d'utiliser le terme Inference Engines.

Update du 2024-06-08 : suite à 2024-06-08_1035, pour éviter la confusion, #JaiDécidé d'utiliser à l'avenir le terme "Inference Engine (comme LLama.cpp)".

Exemples de "Inference Engines" :

aider #llm, #CodeAssistant, #terminal-agents, #open-source

Site officiel : https://aider.chat

Aider lets you pair program with LLMs to start a new project or build on your existing codebase.

source

Notes de Simon Willison au sujet de Aider : https://simonwillison.net/search/?tag=aider

LLM-as-a-Judge #NLP, #llm, #artificial-intelligence

Article Wikipedia : https://en.wikipedia.org/wiki/LLM-as-a-Judge

Papier de recheche Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena datant du 24 décembre 2023.

Projet 20 - "Créer un POC d'un RAG" #llm, #MachineLearning, #RAG

Date de la création de cette note : 2024-12-20.

Quel est l'objectif de ce projet ?

Je souhaite réaliser un POC qui setup un Retrieval-augmented generation (RAG) qui permet d'aller chercher des informations dans des documents.

Fonctionnalités que j'aimerais arriver à implémenter :

  • Le LLM doit pouvoir indiquer précisément ses sources pour chaque réponse.
  • Le LLM devrait être en mesure de s’inspirer du style des documents importés dans le RAG.
  • Les informations importées dans le RAG doivent avoir une priorité absolue sur les connaissances préexistantes du moteur LLM.

Je souhaite me baser sur LLaMa.

Dans ce projet, je souhaite aussi étudier les coûts d'hébergement d'un RAG.

Documents à importer dans le RAG ?

Mes critères de sélection sont les suivants :

  • Des documents récents, contenant de préférence des informations inconnues des modèles LLaMa.
  • Des documents en français.
  • Des documents en libre accès.
  • Si possible, avec peu de tableaux.

J’avais envisagé d’importer des threads de Hacker News via https://hnrss.github.io/, mais je préfère réaliser mes tests en français.

J’ai également exploré https://fr.wikinews.org, mais le projet contient malheureusement trop peu d’articles.

Finalement, je pense importer les 10 derniers articles disponibles sur https://www.projets-libres.org/interviews/.

Autres projets en lien avec celui-ci

Pourquoi je souhaite réaliser ce projet ?

Je souhaite implémenter un RAG depuis que j'ai commencé à utiliser ChatGPT — début 2023 (par exemple, ici ou ici).

Alexandre souhaite aussi réaliser ce type de POC : https://github.com/Its-Alex/backlog/issues/25.

Je pense qu'un RAG me serait utile pour interroger mon Personal knowledge management. Un RAG m'aurait été utile quand j'étais président du club de Tennis de Table d'Issy-les-Moulineaux.
De plus, j'ai plusieurs projets professionnels qui pourraient bénéficier d'un RAG.

Repository de ce projet :

  • rag-poc (je n'ai pas encore créé ce repository)

Liste de tâches

  • [ ] Étudier kotaemon. Après cette étude, à moins d'avoir découvert des éléments bloquants :
  • [ ] Étudier llama_index

Ressources :

Open WebUI #llm

Open WebUI est une interface web de conversation IA.

User-friendly WebUI for LLMs (Formerly Ollama WebUI)

Dépôt GitHub : https://github.com/open-webui/open-webui

Documentation : https://docs.openwebui.com

Voir aussi : LibreChat, Chat-UI.

LLM-Stats #llm, #leaderboard

Site officiel : https://llm-stats.com/

Dépôt GitHub : https://github.com/JonathanChavezTamales/llm-leaderboard

The Road To AGI 2015 - 2025 #llm

https://ai-timeline.org/

Models Table de LifeArchitect #llm

https://lifearchitect.ai/models-table/

LMArena #leaderboard, #llm

Site officiel : https://lmarena.ai/

flamesong #llm

Un modèle LLM développé par Google.

LLM Benchmark #benchmark, #llm

Article Wikipedia : https://en.wikipedia.org/wiki/Language_model_benchmark

Les LLM Benchmark sont utilisés par les leaderboard du type LLM-Stats.com.

Quelques exemples de LLM Benchmark :

Dernière page.