Родился в 1610 году. Хан Крыма в 1641—1644 и 1654—1666 годах из рода Гераев. Сын крымского хана Селямета I Герая.
В юности Мехмед был нурэддином и калгой во время царствования Джанибека Герая (1632—1635), затем уехал из Крыма и жил в Османских владениях. Во время первого правления занимался в основном внешней политикой, причём не слишком удачно. После того, как Русское государство подчинило часть кавказских владений Крыма, Мехмед IV Герай был отправлен в отставку, вызван в Стамбул и сослан на остров Родос. Новым крымским ханом был назначен Ислям III Герай (1644—1654), старший брат Мехмед Герая. Мехмед Герай провёл в ссылке на Родосе десять лет. В 1654 году, вторично вступив на ханский престол после смерти своего старшего брата Исляма III Герая, Мехмед IV заключил военный союз с ослабленной в результате восстания Хмельницого Речью Посполитой и оказывал помощь воевавшему против Москвы украинскому гетману Ивану Выговскому. В 1659 году объединенная казацко-татарская армия под командованием Ивана Выговского и Мехмед IV Герая разгромила русскую рать под предводительством князя Алексея Никитича Трубецкого в битве под Конотопом. В марте 1666 года за отказ предоставить Османской империи военную помощь в войне с Австрией за Венгрию крымский хан Мехмед Герай был смещён с трона османским султаном Мехмедом IV, который назначил новым крымским ханом Адиль Герая. Покинув ханский трон, Мехмед Герай уехал из Крыма в Дагестан, где прожил дервишем ещё 8 лет. Получил от шамхала Тарковского Сурхая в удел селение Пирбай, переименованное в память о родине в Бахчисарай.
Мехмед IV Герай — один из известнейших поэтов ханского Крыма. Писал под псевдонимами Кямиль и Хани. Тематика его стихов в основном религиозно-философская. Прозвище Суфий получил за любовь к философии и идеям суфизма.
Умер в 1674 году, после чего его прах был перевезён в Крым и похоронен в Бахчисарае.