Berg tenía más interés por la literatura que por la música de niño, y comenzó a componer lieder y dúos desde los quince años, con la educación musical tradicional y autodidactaque tuvo.