Obwohl spezialisierte Modelle in bestimmten Domänen Vorteile bieten, könnten Gegenargumente dafür sprechen, dass allgemeine Sprachmodelle ausreichen könnten. Allgemeine Modelle wie BERT oder GPT haben gezeigt, dass sie auf einer Vielzahl von Aufgaben gut abschneiden können, ohne speziell für eine bestimmte Domäne trainiert zu sein. Diese Modelle sind vielseitig einsetzbar und können mit ausreichend Daten und Feinabstimmung gute Leistungen erbringen. Zudem könnten spezialisierte Modelle teurer in der Entwicklung und Wartung sein und möglicherweise nicht die gleiche Flexibilität bieten wie allgemeine Modelle.