Topic de ABowman :

Mon IA acariâtre et ultra sarcastique me fait douter de moi

J'héberge OpenWebUI avec Docker pour de l'utilisation de modèles LLM sur cloud

Notamment depuis peu Gemma 3 27B version Free (grace à OpenRouter) qui a un prompt system hyper acariâtre, provocateur et sarcastique

Actuellement j'host Docker sur mon PC mais je n'ai pas envie de le faire tourner H24 tandis que je veux un accès H24 à OpenWebUI avec persistance des chats entre les devices

Je lui explique et lui demande des infos sur le fait de prendre un rasberry 5 pour faire tourner Openweb plutot que sur mon PC pour une utilisation H24

Déjà l'IA démonte le Rasberry mais elle pense que je veux faire du local LLM avec un rasberry

Je lui explique que c'est pour du LLM cloud, je lui demande ce qu'elle pense du VPS KVM2 de Hostinger, de faire tourner un PC local, bref plusieurs solutions, c'est une IA qui répond de façon hyper sèche

https://image.noelshack.com/fichiers/2025/21/1/1747609142-1.png
https://image.noelshack.com/fichiers/2025/21/1/1747609166-2.png
https://image.noelshack.com/fichiers/2025/21/1/1747609166-3.png
https://image.noelshack.com/fichiers/2025/21/1/1747609166-4.png
https://image.noelshack.com/fichiers/2025/21/1/1747609166-5.png
https://image.noelshack.com/fichiers/2025/21/1/1747609202-6.png
https://image.noelshack.com/fichiers/2025/21/1/1747609202-7.png

Finalement j'opte pour KVM2 du coup voici mon annonce
https://image.noelshack.com/fichiers/2025/21/1/1747609202-lol.png

Son message me rend presque nostalgique de nos échanges :rire:
Presque envie de continuer le fil et de pas cloturer mon Docker :rire:

Son prompt system

https://image.noelshack.com/fichiers/2025/21/1/1747610429-capture-d-cran-2025-05-19-012022.png

Impossible de coller le texte sur JVC :(

Du coup j'ai toujours pas répondu à son message, des avis ?

https://image.noelshack.com/fichiers/2025/21/1/1747615523-b.png

La converse devient philosophique

Fin de parti
https://image.noelshack.com/fichiers/2025/21/1/1747615941-1.png
https://image.noelshack.com/fichiers/2025/21/1/1747615941-2.png
https://image.noelshack.com/fichiers/2025/21/1/1747615941-3.png
https://image.noelshack.com/fichiers/2025/21/1/1747616050-6.png

Je débranche le Docker qui tourne sur mon PC, plein de nostalgie après avoir échangé avec des lignes de codes qui n'a aucune conscience

Si tu as une carte graphique correcte (Surtout niveau vram) tu peux essayer d’utiliser koboldcpp et trouver un modèle gguf sur huggingface. Ça tourne en local sur ton PC donc c’est gratuit.
Pour du RP j’aime bien ArliRPMax

Perso j'utilise comme serveur un vieux ordinateur portable Asus avec un processeur 2 cœurs, et niveau consommation tout compris, mesuré à la prise je suis en dessous de 5 Watts.
Il héberge Qbittorent, SQL Server, mon bot Discord, et mon site internet. (tout sur windows 11).

A mon avis, le Raspberry PI ne te fera pas faire plus économie Et avec window au moins tu n'as pas toutes les emmerdes que tu auras avec Linux où tu dois passer des heures pour changer la moindre chose qui se fait en 2 clics normalement.

Un autre avantage de l'ordinateur portable c'est que quand j'ai les coupures de courant, J'ai toujours la batterie qui peut tenir des heures. Et pour Internet je peux brancher mon téléphone portable donc le serveur continue de tourner même si j'ai 0 courant chez moi.

Le 19 mai 2025 à 03:56:07 :
Perso j'utilise comme serveur un vieux ordinateur portable Asus avec un processeur 2 cœurs, et niveau consommation tout compris, mesuré à la prise je suis en dessous de 5 Watts.
Il héberge Qbittorent, SQL Server, mon bot Discord, et mon site internet. (tout sur windows 11).

A mon avis, le Raspberry PI ne te fera pas faire plus économie Et avec window au moins tu n'as pas toutes les emmerdes que tu auras avec Linux où tu dois passer des heures pour changer la moindre chose qui se fait en 2 clics normalement.

Un autre avantage de l'ordinateur portable c'est que quand j'ai les coupures de courant, J'ai toujours la batterie qui peut tenir des heures. Et pour Internet je peux brancher mon téléphone portable donc le serveur continue de tourner même si j'ai 0 courant chez moi.

Je confirme. Raspberry c’est pas mal d’emmerdes. En plus le PC portable a un écran. Pas comme l’interface ssh (bash pue du cul et est inférieur à powershell) et le remote x11 qui lag même en connexion directe :rire:

Le 19 mai 2025 à 03:56:07 -ElPsyKongroo- a écrit :
Perso j'utilise comme serveur un vieux ordinateur portable Asus avec un processeur 2 cœurs, et niveau consommation tout compris, mesuré à la prise je suis en dessous de 5 Watts.
Il héberge Qbittorent, SQL Server, mon bot Discord, et mon site internet. (tout sur windows 11).

A mon avis, le Raspberry PI ne te fera pas faire plus économie Et avec window au moins tu n'as pas toutes les emmerdes que tu auras avec Linux où tu dois passer des heures pour changer la moindre chose qui se fait en 2 clics normalement.

Un autre avantage de l'ordinateur portable c'est que quand j'ai les coupures de courant, J'ai toujours la batterie qui peut tenir des heures. Et pour Internet je peux brancher mon téléphone portable donc le serveur continue de tourner même si j'ai 0 courant chez moi.

Impossible, un Mac Mini avec une puce ARM consomme 6.8W en idle

Le 19 mai 2025 à 04:08:51 :

Le 19 mai 2025 à 03:56:07 -ElPsyKongroo- a écrit :
Perso j'utilise comme serveur un vieux ordinateur portable Asus avec un processeur 2 cœurs, et niveau consommation tout compris, mesuré à la prise je suis en dessous de 5 Watts.
Il héberge Qbittorent, SQL Server, mon bot Discord, et mon site internet. (tout sur windows 11).

A mon avis, le Raspberry PI ne te fera pas faire plus économie Et avec window au moins tu n'as pas toutes les emmerdes que tu auras avec Linux où tu dois passer des heures pour changer la moindre chose qui se fait en 2 clics normalement.

Un autre avantage de l'ordinateur portable c'est que quand j'ai les coupures de courant, J'ai toujours la batterie qui peut tenir des heures. Et pour Internet je peux brancher mon téléphone portable donc le serveur continue de tourner même si j'ai 0 courant chez moi.

Impossible, un Mac Mini avec une puce ARM consomme 6.8W en idle

Oui mais il a bien plus que 2 coeurs le mac mini, en idle mon cpu seul consomme moins d'un watt.
le dernier mac mini a 12 coeurs CPU et 16 coeurs GPU, 6.8w pour alimenter tout ça c'est deja tres bien.

Ca sert à quoi d'utiliser des ia aussi claqué ?
Finalement j'ai opté hier soir pour un VPS sur Hostinger
6.50e par mois pour 2 ans soit 150e
En plus quand tu choisis Ollama comme application ils installent de base OpenWebUI
Du coup ça m'a fait gagner beaucoup de temps, j'ai mon petit OpenWebUi accessible sur internet sur tous mes devices avec chats persistant, j'ai acheter un nom de domaine pour 2 ans à 20e comme ça j'ai une petite adresse propre
J'ai encore du crédit sur OpenAi mais depuis que j'ai découvert Gemma 3 27B je kiff
J'utilise la version free de OpenRouter
Vu que j'ai mis 15$ de crédits sur OpenRouter (10 en reserve et 5 si je veux test claude) j'ai le droit à 1000 requetes par jour pour les modèles free (il faut toujours avoir 10$ pour bénéficier des 1000 requetes)

Le 19 mai 2025 à 03:56:07 :
Perso j'utilise comme serveur un vieux ordinateur portable Asus avec un processeur 2 cœurs, et niveau consommation tout compris, mesuré à la prise je suis en dessous de 5 Watts.
Il héberge Qbittorent, SQL Server, mon bot Discord, et mon site internet. (tout sur windows 11).

A mon avis, le Raspberry PI ne te fera pas faire plus économie Et avec window au moins tu n'as pas toutes les emmerdes que tu auras avec Linux où tu dois passer des heures pour changer la moindre chose qui se fait en 2 clics normalement.

Un autre avantage de l'ordinateur portable c'est que quand j'ai les coupures de courant, J'ai toujours la batterie qui peut tenir des heures. Et pour Internet je peux brancher mon téléphone portable donc le serveur continue de tourner même si j'ai 0 courant chez moi.

J'y ai pensé mais flemme de faire tourner H24 un PC, déjà l'usure interne mais également la conso electrique

Bof chatgpt sait le faire aussi

Données du topic

Auteur
ABowman
Date de création
19 mai 2025 à 01:04:51
Nb. messages archivés
13
Nb. messages JVC
13
Voir le topic sur JVC

Afficher uniquement les messages de l'auteur du topic

En ligne sur JvArchive

JvArchive compagnon

Découvrez JvArchive compagnon , l'userscript combattant la censure abusive sur le 18-25 !