Backofen auf 200 Grad vorheizen. Rosmarin im Mörser etwas zerkleinern, mit Öl verrühren. Fisch mit der Hälfte der Öl-Mischung bestreichen, gut mit Salz und Pfeffer würzen und in eine feuerfeste Form oder auf ein Backblech geben.
Zitronen heiß abwaschen, trockenreiben und auf einem Gemüsehobel oder mit einem scharfen Messer in Scheiben schneiden. Jeweils 4–5 Zitronenscheiben auf ein Fischfilet oder -steak verteilen. Kapern darüber streuen, Anchovis-Filets darauf legen. Mit restlichem aromatisierten Öl beträufeln.
Im vorgeheizten Backofen die Fischfilets 15 Minuten und die Steaks 25 Minuten garen. Einen Spritzer Weißwein oder Prosecco darüber geben. Herausnehmen und 5 Minuten ruhen lassen. Nach Wunsch etwas Zitronensaft darüber träufeln. Dazu schmeckt ein Salat oder gedämpftes grünes Gemüse.