Здравствуйте, Дмитрий!
Как христианин, вы, конечно, можете и должны молиться за своих близких, даже если они были мусульманами. Любовь и память о них — это естественно и правильно. Но важно разделить два момента:
1. Молитва христианина за мусульманина
В православной Церкви нельзя поминать некрещёных (в том числе мусульман) в литургической записи — на Проскомидии, на панихидах, сорокоустах и т.п.
В то же время вы лично можете молиться за усопшего мусульманина дома, своими словами, например так: «Господи, если это возможно по Твоей святой воле, помилуй и упокой душу раба Твоего (имя), прости ему вольные и невольные согрешения».
Мы не вторгаемся в суд Божий, но вверяем человека милосердию Божию.
2. Обращение в мечеть
Если вы хотите, чтобы о ваших усопших мусульманах помолились в мечети, то формально препятствий здесь нет, при соблюдении уважения к мусульманской традиции.
Практически это может выглядеть так: подойти к имаму или ответственному человеку при мечети; спокойно и уважительно сказать, что ваш усопший (усопшая) был(а) мусульманином, и вы как родственник/знакомый просите помянуть его (её) по их обычаю; если у них существует своя форма записок или список имён, вы можете вписать имя в той форме, как это принято у мусульман.
Здесь вы не молитесь как мусульманин, а просто просите людей их веры помолиться за человека, который был мусульманином. Это не отречение от Христа, а проявление любви и уважения и к памяти усопшего, и к его вере.
3. Что при этом важно помнить христианину
Не нужно самому участвовать в обрядах, которые прямо противоречат нашей вере (произносить исламское исповедание веры и т.п.).
Главная ваша обязанность — молиться от всего сердца и жить по-христиански, а Господь Сам знает, как явить Свою милость душе усопшего.