Arief mengawali kariernya sejak lulus dari Fakultas Hukum Universitas Diponegoro, Semarang.
Arief terpilih sebagai hakim konstitusi menggantikan Mahfud MD pada tanggal 4 Maret 2013, melalui pemilihan di Komisi III, Dewan Perwakilan Rakyat.
Arief resmi dilantik menjadi hakim konstitusi oleh Presiden Susilo Bambang Yudhoyono pada tanggal 1 April 2013.
Arief Hidayat merupakan guru besar Fakultas Hukum Undip. Bidang keahlian Arief meliputi hukum tata negara, hukum dan politik, hukum dan perundang-undangan, hukum lingkungan dan hukum perikanan.