W marcu 1879 r. wyjechał do Chin. Najpierw przez dwa lata uczył się w Hongkongu języka i posługiwał miejscowym chrześcijanom, by następnie wyjechać do powierzonych mu 158 chrześcijan w liczącej 12 milionów mieszkańców prowincji Południowego Szantungu.

W marcu 1882 r. Józef zamieszkał w prymitywnej, glinianej chacie w Puoli. Do pomocy w pracy duszpasterskiej zapraszał ludzi świeckich, którzy dzięki znajomości języka mogli o wiele skuteczniej pomagać w ewangelizacji. Z myślą o nich przygotował wyjaśnienia do katechizmu i różne inne pomoce duszpasterskie w języku chińskim.

W grudniu 1885 r. został zastępcą wikariusza apostolskiego, ustanowionego dla całej prowincji. Kościół na tym terenie liczył już wówczas blisko 700 chrześcijan i około 2000 katechumenów, przygotowujących się do przyjęcia chrztu. W 1894 r. Józef przeniósł się do Wangchungu, gdzie został wkrótce rektorem nowego seminarium. W 1900 r. został mianowany przełożonym prowincji werbistów w Południowym Szantungu.

W 1908 r. w prowincji wybuchła epidemia tyfusu. Ojciec Józef gorliwie spieszył na pomoc wszystkim potrzebującym. Zaraził się od nich chorobą i zmarł 28 stycznia 1908 r. w Taikii. Paweł VI beatyfikował go w październiku 1975 r., a św. Jan Paweł II ogłosił go świętym 5 października 2003 r.