За время работы в США Галеви удалось установить тесные отношения не только с коллегами в американских спецлужбах, но и со многими высокопоставленными чиновниками в администрации президента Никсона, в частности, с советником хозяина Белого дома Дональдом Рамсфельдом. Однако он не ограничивался связями лишь с американской стороной. Он поддерживал отношения со многими предпринимателями и дипломатами с Ближнего и Среднего Востока, находившимися в то время в Америке. Именно на тот период приходятся его первые контакты с представителями Иордании, руководство которой как раз в начале 70-х годов вело беспощадную борьбу с палестинскими террористическими организациями.
После возвращения в Израиль Галеви было поручено курировать деятельность «Моссада» по организации репатриации евреев из тех стран, в которых этому препятствовали местные власти. Выполняя свои новые обязанности, он установил контакты со спецлужбами ряда государств Восточной Европы и Восточной Африки.
В 1987 году Галеви впервые принял участие в тайных переговорах с королем Иордании Хусейном. С тех пор он неизменно остается одной из главных фигур, определяющих закулисные израильско-иорданские отношения.
В период конца 80-х — первой половины 90-х годов Галеви установил личные связи со многими членами королевской семьи, а также руководителями спецслужб Хашимитского королевства, в частности, с главой Службы общей разведки Иордании Самихом аль— Батихи и его преемником Саадом Хиром. Именно благодаря своим особым отношениям с Амманом Галеви сыграл решающую роль в тайных переговорах между Израилем и Иорданией, завершившихся подписанием в 1994 году мирного договора. Его личными связями объясняется и тот факт, что, несмотря на любые коллизии региональной политики, Хашимитское королевство было и остается единственной арабской страной, в которой открыто действует официальное представительство «Моссада».
В 1990 году Галеви был назначен заместителем главы этого ведомства и руководителем его командного штаба. На этом посту он пробыл до 1995 года, имея отношение практически ко всем тайным контактам Израиля с Сирией, Египтом, странами Персидского залива, а по некоторым сведениям, даже с Ираком.
С 1996 по начало 1998 года Галеви представлял еврейское государство в штаб-квартире Европейского союза в Брюсселе.
Он возглавил «Моссад» в апреле 1998 года, когда внешняя разведка находилась в деморализованном состоянии из-за ряда ошибок и провалов, постигших ее при Дани Ятоме.
Назначив Галеви руководителем «Моссада», премьер-министр Нетаниягу поручил ему весьма сложную и крайне важную задачу — остановить разложение секретной службы и вернуть ей былую оперативность и мощь. В самом «Моссаде» это назначение восприняли с заметным воодушевлением и оптимизмом. Многие ветераны рассматривали нового шефа как «своего человека», хорошо знакомого с внутренними проблемами вверенного ему учреждения. Все надеялись, что Галеви сумеет прекратить склоки и поднимет моральный уровень подчиненных.
Заняв новую должность, он сразу же столкнулся с первым серьезным испытанием. От него потребовалось немедленно предпринять меры для освобождения своего сотрудника Ицхака Бен-Таля из швейцарской тюрьмы. Тот был арестован в Берне в феврале 1998 года после провала операции «Моссада». После немалых усилий неудачливого разведчика выпустили на свободу под залог в два миллиона долларов, взяв с него обязательство, предстать через два месяца перед швейцарским судом.
Галеви успешно сдал экзамен. Однако вскоре его постигло и первое не менее горькое поражение. 7-го ноября 1998 года два сотрудника «Моссада» — Уди Аргов и Игаль Дамри были арестованы при выполнении оперативного задания в греческой части Кипра.
После того как все попытки освободить двух сотрудников, предпринятые по официальным каналам, оказались безрезультатными, Галеви решил пойти другим путем. Поскольку в прошлом он руководил управлением по связям с иностранными спецслужбами, то сохранил весьма близкие отношения со многими офицерами из ЦРУ, МИ-6, БНД и других западных спецслужб. Именно к одному из них он обратился с просьбой помочь вызволить своих подчиненных из киприотской тюрьмы.
Результат последовал незамедлительно. Через несколько недель Аргов и Дамри вернулись в Израиль.
Но Галеви ждал еще один удар. Помимо многочисленных «зарубежных» проблем над ним все время довлела уже давно тянувшаяся история Иегуды Гиля — одного из офицеров «Моссада», который длительный период предоставлял начальству информацию от якобы завербованного им еще в 1974 году сирийского генерала. В действительности, лишь часть разведданных, «добытых» Гилем, поступала из Дамаска. Остальные материалы он просто фабриковал. Тем не менее, Галеви посчитал, что «Моссад» не должен отворачиваться от своих сотрудников в трудную минуту. Поэтому следует отнестись к Гилю со снисхождением.
Несмотря на многочисленные проблемы, перешедшие к новому руководителю «Моссада» от его предшественника, а также связанные с обострением ближневосточного конфликта, Галеви сумел существенно улучшить атмосферу в структуре своего ведомства. В результате оно избавилось от многих устаревших стереотипов и малоэффективных методов работы.
При этом Галеви отдавал предпочтение тайной дипломатии, нежели спецоперациям карательного характера, почерпнутым из арсенала «Моссада» 50-70-х годов. Кстати, по мнению некоторых представителей ближайшего окружения премьер-министра Ариэля Шарона, именно с этим связано его решение найти замену Галеви. По их словам, «в условиях продолжающегося конфликта с палестинцами, растущего противостояния Израиля с арабским миром и угрозы исламского фундаментализма премьер предпочитает видеть на его месте более жесткого и решительно руководителя».
Хотя новому начальнику «Моссада» ежедневно приходилось сталкиваться с многочисленными проблемами, он все же сумел провести несколько преобразований в подведомственной ему организации. Среди прочего в первую очередь выделяются два новшества.
Одно связано с преобразованием Управления исследований в Управление разведывательной деятельности. Теперь в его компетенцию входит не только анализ разведданных, но также и координация мероприятий по сбору секретной информации.
Второе преобразование, которое Галеви планировал провести, могло стать, как отмечает израильский эксперт Михаил Фальков, настоящей революцией в истории «Моссада». По его сведениям, Галеви был уверен в том, что на рубеже третьего тысячелетия отношения «Моссада» с внешним миром должны соответствовать требованиям и духу времени. Он считал, что его ведомству чрезвычайно важно быть гораздо более открытым по отношению к обществу. Но при этом «Моссад» ни в коем случае не должен отказываться от традиционной секретности.