AI Server / KI Server, GPU-Server, ollama, NVIDIA TensorRT-LLM, vLLM, auf Linux mit ollama für Modelle Llama3, Llama4, Gemma3, Mistral, Qwen, Deepseek-R 1 usw.

Für eine Beratung fragt gerne nach, philippbier.de!

5x NVIDIA TESLA P100 16GB inkl.
mit CUDA und TensorRT 80GB VRAM!

Läuft super mit Modellen wie:
Llama3.3:70B
Llama4:scout
phi4:14B
Gemma3:27B

System Vergleich
zur Orientierung

Beispiel Modell
Llama 3.3 70B (Q4)

5x Tesla P100 16G

~5 - 8

5x Tesla V100 16G

~20 - 30

5x Tesla V100 32G

~30 - 35

NVIDIA DGX Spark FE

~4 - 5

DGX Station (4x V100)

~15 - 20

A100 80GB (Single)

~25 - 30

3x RTX 3090 Rig

~18 - 20

2x RTX 5090 FE 32G

~35 - 40


Die Verwendung neuerer Grafikkarten wird auch unterstützt, zum Beispiel mit Nvidia RTX 5090 Founder Blackwell mit 32GB VRAM, RTX 3090, Tesla V100 usw. 


Angebot mit 2x Tesla V100 32GB:
https://www.ebay.de/itm/307007290943


Alle meine Angebote:
https://www.ebay.de/sch/i.html?_ssn=biercologne

Ich habe auch noch andere Server, einfach melden philippbier.de


GIGABYTE GPU Rack Server
inkl. 5x NVIDIA TESLA P100 16GB VRAM CUDA GPU Grafikkarten

(bis zu 10x GPU 2-Slot möglich, auch andere GPU Modelle zum Beispiel Tesla V100, RTX 5090, RTX 3090 oder Tesla A100 usw.)

Technische Daten:
· Computer: AMD EPYC™ Embedded 3151 (CPU Base Freq. 2.7 GHz, CPU Max Freq. 2.9 GHz, 4-Cores, 8-Threads, Cache 16 MB, TDP 45W)
  Sehr stromsparend und nur zum laden der Modelle in den VRAM.

· RAM: 32GB DDR4 (Bis 128GB möglich)
· Festplatte: 1 TB NVMe
· GPU: 5x NVIDIA TESLA P100 16GB PCIe GPU Accelerator
· VRAM mit CUDA 80GB
· Power Supply 3x 1600W
· Networking 2x RJ45 1Gigabit Netzwerk Ports
· Rack 19" Rack x 4HE x ca. 800mm Tiefe

Gegen Aufpreis:
- Mehr RAM
- Mehr VRAM
- Rack Rails
- Festplatten Erweiterung
- Mehr GPUs, verschiedene Modelle möglich, V100, RTX 5090 usw.

Zustand: Gebraucht, sehr gut
Versandmöglichkeiten
- Abholung kostenlos
- Versand innerhalb Deutschland kostenlos
- Versand weltweit möglich / Shipping worldwide possible, please ask

Hinweise:
Zu dem Preis wird nur die Hardware verkauft.
Bilder können abweichen, je nach Konfiguration.

Für komplett installiert und einsatzbereit gerne melden!

--
Installiert ist der Server gedacht für eine unabhängige eigene interne KI Lösung für privat oder im Unternehmen:
https://www.ebay.de/itm/306728561498

- API Schnittstelle damit die KI von vorhandenen Systemen genutzt werden kann
- Damit 100 % DSGVO-konform

- Die leistungsstärksten KI-Modelle auf einer Plattform
- Multi-User Oberfläche so wie man es von ChatGPT und Co. kennt aber es können auch externe Modelle wie Gemini Pro, OpenAI oder Grok verwendet und angebunden werden. Sehr gut zum parallelem Vergleich von Antworten da ein prompt parallel von verschiedenen Modellen beantwortet werden kann.
- Pluspunkt sind eigene Modelle, welche an eigene Daten anschlossen werden können, z. B. Dateien oder Datenbanken und auch spezielle eigene Tools.
- Kein Vendor Lock-in durch Open Source
--

Andere Konfigurationen gegen Aufpreis machbar:

- GIGABYTE Rack Server bis zu 8 GPUs incl. 
 5x NVIDIA TESLA P100 16GB 
 RAM: 128GB DDR4 Memory
 Festplatte: 1 TB NVMe
 
2550 €

HPE ProliantDL580 Gen9 incl.
  5x NVIDIA Tesla V100 16GB VRAM CUDA Grafikkarten
  RAM: 256GB DDR4 Memory
  Festplatte: 2 TB NVMe
 5750 €

HPE ProliantDL580 Gen9 incl.
  5x NVIDIA Tesla P100 16GB VRAM CUDA Grafikkarten
  RAM: 256GB DDR4 Memory
  Festplatte: 1 TB NVMe
 3950 €

Suchbegriffe:
NVIDIA DGX, NVIDIA, NVIDIA P100, NVIDIA V100, Product Line, Ubuntu LTS, Llama3, Llama4, Mistral, Falcon, Gemma, Google DeepMind, Phi-3 Microsoft, Phi3, Mixtral, DBRX, Grok, Qwen, qwen3, deepseek-r1, StableLM,Olmo, T5, BERT, XLM-RoBERTa, DistilBERT, ALBERT, BLOOM, GPT-Neo, GPT-J,DeepSpeed, Megatron-LM, LLaVA, Vicuna, Alpaca, llava, NVIDIA CUDA, NVIDIA TensorRT, Rack Server, NVIDIA PCIE GPU, AnSys, 3D, Rendering, CFD , CAD / CAM , VMWARE ESXi 8

Rechtliches:
Trotz größter Sorgfalt sind Inserats Fehler nichtausgeschlossen. Alle Angaben ohne Gewähr. Tippfehler, Zwischenverkauf undIrrtümer vorbehalten, alle angebotenen Artikel werden als gebraucht von privatverkauft. Alle Artikel werden unter Ausschluss jeglicher Garantie,Gewährleistung und Rücknahme verkauft, dies ist ein Privatverkauf. Zahlung inBar bei Abholung, Paypal (Gegen Übernahme der Gebühren) oder per vorabÜberweisung innerhalb von sieben Tagen nach Auktionsende. Es wird empfohlensich die Artikel und seine Mängel vor Ort anzuschauen, da das Gebot oder derKauf bindend ist. Die Artikel müssen, wenn nicht anders schriftlich vereinbartinnerhalb von sieben Tagen nach Auktionsende abgeholt werden, sonst behält sichder Verkäufer vor, die Artikel anderweitig zu veräußern. Für weitere Fragenstehe ich Ihnen gerne zur Verfügung.