Den Ghana internationella, 22, gjorde 51 framträdanden för Bundesliga sidan Augsburg innan flytta till Stamford Bridge på en fem-års affär i augusti förra året.
Raman gjorde sin Chelsea debut i Champions League och fortsatte att göra 23 framträdanden för Blues.
Hans återkomst till Tyskland återförenar honom med före detta Augsburg manager Markus Weinzierl, som tog över som Schalke manager i juni.
Prenumerera på BBC Sport nyhetsbrev för att få vårt tips på nyheter, funktioner och video skickas till din inkorg.
Schalke har undertecknat Chelsea försvarare Baba Rahman på ett säsongslångt lån.