Насколько я понима, очередные проблемы с if.
Я бы сделал так:
proxy_set_header  X-Real-IP  $remote_addr;
location / {
    if ($http_referer ~* "^http://(.*)/fw-in/(.*)$" ) { return 412; }
    if ($http_referer ~* "^http://(.*)/webrelay/(.*)$" ) { return 413;}
    error_page 412 =@in;
    error_page 413 =@web