Вершиной карьеры Кайо был период с июня 1911 по январь 1912 года, когда он занимал посты премьер-министра и министра внутренних дел. Выступал за введение прогрессивного подоходного налога. В области внешней политики ориентировался на сближение с Германией, во время Агадирского кризиса 1911 года добивался заключения компромиссного франко-германского соглашения. В годы Первой мировой войны Кайо был сторонником поисков путей примирения с Германией за что в декабре 1917 года по требованию премьер-министра Жоржа Клемансо был лишён депутатской неприкосновенности и в январе 1918 арестован.