Perkembangan teknologi layanan informasi di lingkungan pendidikan tinggi menuntut infrastruktur server yang responsif, aman, dan efisien. Penelitian ini bertujuan untuk merancang dan membangun arsitektur layanan terdistribusi berbasis virtualisasi dengan Proxmox Virtual Environment (VE) sebagai bare-metal hypervisor di Jurusan Teknik Informatika dan Komputer, Politeknik Negeri Jakarta. Sistem dirancang dengan mengintegrasikan Traefik sebagai reverse proxy dan load balancer, EMQX sebagai message broker protokol MQTT, Pi-hole sebagai DNS resolver, Home Assistant untuk otomasi serta monitoring perangkat, dan Portainer serta Docker untuk orkestrasi container. Evaluasi dilakukan melalui pengujian fungsionalitas, performa (response time, throughput, success rate), dan efektivitas distribusi beban pada berbagai protokol komunikasi (HTTP, MQTT, WebSocket). Hasil pengujian menunjukkan bahwa sistem mampu memberikan layanan yang stabil, responsif, dan aman hingga 10.000 virtual users dengan tingkat keberhasilan di atas 97%. Traefik berhasil mendistribusikan beban secara optimal ke backend service. Arsitektur yang dibangun terbukti meningkatkan efisiensi pengelolaan infrastruktur server, serta mendukung kebutuhan pembelajaran dan pengembangan aplikasi secara terintegrasi di lingkungan TIK Politeknik Negeri Jakarta.