Je vais créer votre assistant IA RAG privé sur vos documents, hébergé chez vous
Vente 0
Proposé par koatiromeo •Ingénieur IA, automatisation et cybersécurité (OSCP) · Agents IA, n8n, apps web et mobiles Vente au total 0
POUR QUI
- Cabinets d'avocats, d'expertise comptable, de conseil ou de santé soumis au secret professionnel
- PME qui veulent un assistant interne pour les procédures, la qualité, les RH ou le support technique
- Bureaux d'études et équipes techniques qui consultent souvent de longues documentations
- Entreprises qui refusent que leurs documents servent à entraîner un modèle externe
CE QUE COMPREND L'OFFRE DE BASE (280,08 $US)
- L'installation d'Ollama et d'un modèle d'IA open source adapté à votre matériel, sans aucune API externe
- L'indexation de vos documents dans une base vectorielle locale, jusqu'à 50 documents (PDF texte, Word, TXT)
- Une interface web de discussion accessible sur votre réseau, avec historique des conversations
- Des réponses qui citent le document source, pour que chacun puisse vérifier
- Un test sur 30 vraies questions préparées avec vous, et le résultat de ce test
- Un guide pour ajouter ou retirer des documents vous-même
- Le tout installé avec Docker sur votre serveur ou votre PC
- 2 retouches
COMMENT ÇA SE PASSE
1. On vérifie votre matériel et vos documents dans le chat. Je vous dis quel modèle tournera correctement chez vous avant la commande.
2. Vous préparez les documents et une liste de 30 questions que votre équipe pose souvent.
3. J'installe l'assistant à distance, avec une session que vous ouvrez et fermez vous-même. J'indexe les documents et je règle le modèle.
4. On teste ensemble les 30 questions, je corrige ce qui doit l'être et je vous remets le guide.
CE QUE VOUS RECEVEZ
- Un assistant IA privé, en service sur votre machine
- Vos documents indexés et interrogeables en langage naturel
- Le rapport du test des 30 questions
- Les fichiers de configuration Docker, qui vous appartiennent
- Un guide d'utilisation et de mise à jour des documents
LE MATÉRIEL NÉCESSAIRE
Un modèle local demande de la puissance. Pour un confort correct, il faut une carte graphique NVIDIA avec au moins 8 Go de mémoire, ou un Mac à puce Apple avec 16 Go de mémoire. Sans carte graphique, cela reste possible avec 16 Go de RAM, mais les réponses sont plus lentes. Je regarde votre configuration avant la commande et je vous dis franchement si elle suffit. Aucun abonnement n'est à prévoir ensuite, seulement l'électricité de la machine.
POURQUOI MOI
Je suis ingénieur logiciel et cybersécurité, avec un Master en génie logiciel et un Master en sécurité des systèmes d'information, et les certifications OSCP et CEH. La confidentialité de vos documents fait partie de mon métier de base. Ingénieur IA depuis 2024, je travaille tous les jours avec Ollama et Docker, en Python. J'ai livré un assistant IA d'entreprise en RAG avec n8n et la base vectorielle Qdrant, dans une version qui utilisait OpenAI. Ici, je reprends la même architecture avec un modèle local. J'ai aussi développé un SaaS de conformité documentaire avec isolation des données entre clients.
C'est une offre de lancement. Je n'ai pas encore d'avis sur ComeUp, alors je vous montre le résultat du test des 30 questions avant que vous validiez.
LES OPTIONS EN BREF
- Au-delà de 50 documents, ajoutez des tranches de 50 documents.
- Pour des PDF scannés (images de pages), il faut l'option Lecture OCR.
- Avec l'option Comptes utilisateurs, chaque service ne voit que ses propres documents.
- La mise à jour automatique relit un dossier partagé et indexe les nouveaux fichiers seule.
- La formation de votre équipe dure une heure en visio.
- L'option Connexion à n8n permet à l'assistant de déclencher des tâches (créer un ticket, envoyer un résumé).
- L'accès à distance sécurisé ouvre l'assistant aux collaborateurs en télétravail.
Pour un chatbot public sur votre site web, voyez mon service Chatbot IA pour site web avec Typebot. Si vous hésitez sur le bon projet d'IA, commencez par mon service Audit de process.
QUESTIONS FRÉQUENTES
Mes documents sont-ils envoyés à OpenAI ou à un autre service ?
Non. Le modèle tourne avec Ollama sur votre machine. Ni les documents ni les questions ne sortent de votre réseau.
Quelle qualité par rapport à ChatGPT ?
Un modèle local est moins puissant que les meilleurs modèles en ligne. Pour répondre à partir de vos documents, il donne en général de bons résultats, et le test des 30 questions vous permet d'en juger sur pièces.
Quel matériel faut-il ?
Idéalement une carte graphique NVIDIA de 8 Go ou plus, ou un Mac à puce Apple avec 16 Go. Sans carte graphique, cela fonctionne plus lentement. Je vérifie votre configuration avant la commande.
Quels formats de documents ?
PDF contenant du texte, Word et TXT dans l'offre de base. Les PDF scannés demandent l'option OCR. Les fichiers Excel se discutent selon leur structure.
L'IA peut-elle inventer une réponse ?
Le risque existe avec toute IA. Je règle l'assistant pour qu'il réponde uniquement à partir de vos documents, qu'il cite sa source et qu'il dise quand il ne trouve pas. Le test des 30 questions sert à le vérifier.
Comment ajouter de nouveaux documents ?
Vous les déposez et vous lancez la réindexation en suivant le guide. Avec l'option Mise à jour automatique, cela se fait seul.
Plusieurs personnes peuvent-elles l'utiliser ?
Oui, sur votre réseau. Pour des droits différents selon les services, prenez l'option Comptes utilisateurs.
Y a-t-il un coût mensuel ?
Aucun abonnement. Seulement l'électricité et, si vous en louez un, le serveur.
Comment se passe l'installation à distance ?
Vous ouvrez vous-même une session de partage d'écran ou un accès temporaire, et vous la fermez à la fin. Je ne garde aucun accès après la livraison.
Est-ce conforme au RGPD ?
Le fait que tout reste chez vous simplifie beaucoup les choses. La conformité dépend aussi de votre usage et de vos documents. Je vous signale les points d'attention, mais je ne remplace pas votre conseil juridique.
Envoyez-moi un message ici avant de commander, je vous réponds en général en moins d'une heure.