Je nach KI-Anwendung und ihrem Algorithmus muss man GPUs koppeln oder nicht. Bei Go-Spiel-KI-Inferencing braucht man es nicht, sondern kann fast linear von mehreren GPUs profitieren.
Aktuell 4070 vs. 2 x 6090 (falls die nächste RTX-Generation auf ca. 2nm kommen wird) ist ein Geschwindigkeitsvergleich von größenordnungsmäßig 1:10. Für mich lohnt sich das dann. Noch schneller wäre noch besser, aber 10-fache Geschwindigkeit (ja ganz banal: es geht bei mir direkt darum, weil es um erzeugte Objekte pro Zeit meiner Computernutzung geht) wäre an sich jedenfalls Grund genug für ein Upgrade meines Computers.
Bei 2 * 5090 hingegen überzeugt es nicht. Zu wenig GeschwindigkeitsZuwachs, zu viel Watt und daher zu teuer je Objekt und Watt.