helm/searchEngine/searchEngine.ml

   1 (* Copyright (C) 2002, HELM Team.
   2  *
   3  * This file is part of HELM, an Hypertextual, Electronic
   4  * Library of Mathematics, developed at the Computer Science
   5  * Department, University of Bologna, Italy.
   6  *
   7  * HELM is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU General Public License
   9  * as published by the Free Software Foundation; either version 2
  10  * of the License, or (at your option) any later version.
  11  *
  12  * HELM is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  15  * GNU General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU General Public License
  18  * along with HELM; if not, write to the Free Software
  19  * Foundation, Inc., 59 Temple Place - Suite 330, Boston,
  20  * MA  02111-1307, USA.
  21  *
  22  * For details, see the HELM World-Wide-Web page,
  23  * http://cs.unibo.it/helm/.
  24  *)
  25
  26 module T = MQGTypes
  27 module U = MQGUtil
  28 module G = MQueryGenerator
  29 module C = MQIConn
  30
  31 open Http_types ;;
  32
  33 let debug = true;;
  34 let debug_print s = if debug then prerr_endline s;;
  35 Http_common.debug := true;;
  36 (* Http_common.debug := true;; *)
  37
  38 open Printf;;
  39
  40 let daemon_name = "Search Engine";;
  41
  42 let string_tail s =
  43   let len = String.length s in
  44   String.sub s 1 (len-1)
  45
  46   (* First of all we load the configuration *)
  47 let _ =
  48  let configuration_file = "searchEngine.conf.xml" in
  49   Helm_registry.load_from configuration_file
  50 ;;
  51
  52 let port = Helm_registry.get_int "search_engine.port";;
  53
  54 let pages_dir = Helm_registry.get "search_engine.html_dir";;
  55
  56   (** accepted HTTP servers for ask_uwobo method forwarding *)
  57 let valid_servers= Helm_registry.get_string_list "search_engine.valid_servers";;
  58
  59 let interactive_user_uri_choice_TPL = pages_dir ^ "/moogle_chat1.html";;
  60 let interactive_interpretation_choice_TPL = pages_dir ^ "/moogle_chat2.html";;
  61 let constraints_choice_TPL = pages_dir ^ "/moogle_constraints_choice.html";;
  62 (* let final_results_TPL = pages_dir ^ "/templateambigpdq3.html";; *)
  63 let start_TPL = pages_dir ^ "/moogle.html";;
  64 let final_results_TPL = pages_dir ^ "/moogle.html";;
  65
  66 let my_own_url =
  67  let ic = Unix.open_process_in "hostname -f" in
  68  let hostname = input_line ic in
  69  ignore (Unix.close_process_in ic);
  70  sprintf "http://%s:%d" hostname port
  71 ;;
  72
  73 exception Chat_unfinished
  74 exception Invalid_action of string  (* invalid action for "/search" method *)
  75
  76 let javascript_quote s =
  77  let rex = Pcre.regexp "'" in
  78  let rex' = Pcre.regexp "\"" in
  79   Pcre.replace ~rex ~templ:"\\'"
  80    (Pcre.replace ~rex:rex' ~templ:"\\\"" s)
  81 ;;
  82
  83   (* build a bool from a 1-character-string *)
  84 let bool_of_string' = function
  85   | "0" -> false
  86   | "1" -> true
  87   | s -> failwith ("Can't parse a boolean from string: " ^ s)
  88 ;;
  89
  90   (* build an int option from a string *)
  91 let int_of_string' = function
  92   | "_" -> None
  93   | s ->
  94       try
  95         Some (int_of_string s)
  96       with Failure "int_of_string" ->
  97         failwith ("Can't parse an int option from string: " ^ s)
  98 ;;
  99
 100   (* HTML pretty printers for mquery_generator types *)
 101
 102 let html_of_r_obj (pos, uri) =
 103   sprintf
 104     "<tr><td><input type='checkbox' name='constr_obj' checked='on'/></td><td>%s</td><td>%s</td><td>%s</td></tr>"
 105     uri (U.text_of_position pos)
 106     (if U.is_main_position pos then
 107       sprintf "<input name='obj_depth' size='2' type='text' value='%s' />"
 108         (U.text_of_depth pos "")
 109     else
 110       "<input type=\"hidden\" name=\"obj_depth\" />")
 111 ;;
 112
 113 let html_of_r_rel pos =
 114   sprintf
 115     "<tr><td><input type='checkbox' name='constr_rel' checked='on'/></td><td>%s</td><td><input name='rel_depth' size='2' type='text' value='%s' /></td></tr>"
 116     (U.text_of_position (pos:>T.full_position)) (U.text_of_depth (pos:>T.full_position) "")
 117 ;;
 118
 119 let html_of_r_sort (pos, sort) =
 120   sprintf
 121     "<tr><td><input type='checkbox' name='constr_sort' checked='on'/></td><td>%s</td><td>%s</td><td><input name='sort_depth' size='2' type='text' value='%s'/></td></tr>"
 122     (U.text_of_sort sort) (U.text_of_position (pos:>T.full_position)) (U.text_of_depth (pos:>T.full_position) "")
 123 ;;
 124
 125   (** pretty print a MathQL query result to an HELM theory file *)
 126 let theory_of_result result =
 127  let results_no = List.length result in
 128   if results_no > 0 then
 129    let mode = if results_no > 10 then "linkonly" else "typeonly" in
 130    let results =
 131     let idx = ref (results_no + 1) in
 132      List.fold_right
 133       (fun (uri,attrs) i ->
 134         decr idx ;
 135         "<tr><td valign=\"top\">" ^ string_of_int !idx ^ ".</td><td><ht:OBJECT uri=\"" ^ uri ^ "\" mode=\"" ^ mode ^ "\"/></td></tr>" ^  i
 136       ) result ""
 137    in
 138     "<b><font size=\"+1\">Query Results:</font></b><table xmlns:ht=\"http://www.cs.unibo.it/helm/namespaces/helm-theory\">" ^ results ^ "</table>"
 139   else
 140     "<b><font size=\"+1\">Query Results:</font></b><p>No results found!</p>"
 141 ;;
 142
 143 let pp_result result =
 144  "<html xmlns:ht=\"http://www.cs.unibo.it/helm/namespaces/helm-theory\">\n<head><title>Query Results</title><style> A { text-decoration: none } </style></head>\n<body>" ^ theory_of_result result ^ "</body></html>"
 145 ;;
 146
 147   (** chain application of Pcre substitutions *)
 148 let rec apply_substs substs line =
 149   match substs with
 150   | [] -> line
 151   | (rex, templ) :: rest -> apply_substs rest (Pcre.replace ~rex ~templ line)
 152   (** fold like function on files *)
 153 let fold_file f init fname =
 154   let inchan = open_in fname in
 155   let rec fold_lines' value =
 156     try
 157       let line = input_line inchan in
 158       fold_lines' (f value line)
 159     with End_of_file -> value
 160   in
 161   let res = (try fold_lines' init with e -> (close_in inchan; raise e)) in
 162   close_in inchan;
 163   res
 164   (** iter like function on files *)
 165 let iter_file f = fold_file (fun _ line -> f line) ()
 166
 167 let (expression_tag_RE,
 168      action_tag_RE,
 169      advanced_tag_RE,
 170      title_tag_RE, no_choices_tag_RE, current_choices_tag_RE,
 171      choices_tag_RE, msg_tag_RE, id_to_uris_RE, id_RE, iden_tag_RE,
 172      interpretations_RE, interpretations_labels_RE, results_RE, new_aliases_RE,
 173      form_RE, variables_initialization_RE, search_engine_url_RE)
 174   =
 175   (Pcre.regexp "@EXPRESSION@",
 176    Pcre.regexp "@ACTION@",
 177    Pcre.regexp "@ADVANCED@",
 178    Pcre.regexp "@TITLE@", Pcre.regexp "@NO_CHOICES@",
 179    Pcre.regexp "@CURRENT_CHOICES@",
 180    Pcre.regexp "@CHOICES@", Pcre.regexp "@MSG@",
 181    Pcre.regexp "@ID_TO_URIS@", Pcre.regexp "@ID@", Pcre.regexp "@IDEN@",
 182    Pcre.regexp "@INTERPRETATIONS@", Pcre.regexp "@INTERPRETATIONS_LABELS@",
 183    Pcre.regexp "@RESULTS@", Pcre.regexp "@NEW_ALIASES@", Pcre.regexp "@FORM@",
 184    Pcre.regexp "@VARIABLES_INITIALIZATION@", Pcre.regexp "@SEARCH_ENGINE_URL@")
 185 let server_and_port_url_RE = Pcre.regexp "^http://([^/]+)/.*$"
 186
 187 let pp_error = sprintf "<html><body><h1>Error: %s</h1></body></html>";;
 188
 189 let bad_request body outchan =
 190   Http_daemon.respond_error ~code:(`Status (`Client_error `Bad_request)) ~body
 191     outchan
 192 ;;
 193
 194 let contype = "Content-Type", "text/html";;
 195
 196 (* SEARCH ENGINE functions *)
 197
 198 let get_constraints term =
 199  function
 200     | "/elim" ->
 201       None,
 202       (CGLocateInductive.get_constraints term),
 203       (None,None,None)
 204     | "/match" ->
 205      let constr_obj, constr_rel, constr_sort =
 206        CGSearchPattern.get_constraints term in
 207      (Some CGSearchPattern.universe),
 208      (constr_obj, constr_rel, constr_sort),
 209      (Some constr_obj, Some constr_rel, Some constr_sort)
 210     | "/hint" ->
 211      let list_of_must, only = CGMatchConclusion.get_constraints [] [] term in
 212 (* FG: there is no way to choose the block number ***************************)
 213      let block = pred (List.length list_of_must) in
 214       (Some CGMatchConclusion.universe),
 215       (List.nth list_of_must block, [], []), (Some only, None, None)
 216     | _ -> assert false
 217 ;;
 218
 219 (*
 220   format:
 221     <must_obj> ':' <must_rel> ':' <must_sort> ':' <only_obj> ':' <only_rel> ':' <only_sort>
 222
 223     <must_*> ::= ('0'|'1') ('_'|<int>) (',' ('0'|'1') ('_'|<int>))*
 224     <only> ::= '0'|'1'
 225 *)
 226 let add_user_constraints ~constraints
 227  ((obj, rel, sort), (only_obj, only_rel, only_sort))
 228 =
 229   let parse_must s =
 230     let l = Pcre.split ~pat:"," s in
 231     (try
 232       List.map
 233         (fun s ->
 234           let subs = Pcre.extract ~pat:"^(.)(\\d+|_)$" s in
 235           (bool_of_string' subs.(1), int_of_string' subs.(2)))
 236         l
 237      with
 238       Not_found -> failwith ("Can't parse constraint string: " ^ constraints)
 239     )
 240   in
 241     (* to be used on "obj" *)
 242   let add_user_must33 user_must must =
 243     List.map2
 244      (fun (b, i) (p, u) ->
 245        if b then Some (U.set_full_position p i, u) else None)
 246      user_must must
 247   in
 248     (* to be used on "rel" *)
 249   let add_user_must22 user_must must =
 250     List.map2
 251      (fun (b, i) p -> if b then Some (U.set_main_position p i) else None)
 252      user_must must
 253   in
 254     (* to be used on "sort" *)
 255   let add_user_must32 user_must must =
 256     List.map2
 257      (fun (b, i) (p, s)-> if b then Some (U.set_main_position p i, s) else None)
 258      user_must must
 259   in
 260   match Pcre.split ~pat:":" constraints with
 261   | [user_obj;user_rel;user_sort;user_only_obj;user_only_rel;user_only_sort] ->
 262       let
 263        (user_obj,user_rel,user_sort,user_only_obj,user_only_rel,user_only_sort)
 264       =
 265         (parse_must user_obj,
 266         parse_must user_rel,
 267         parse_must user_sort,
 268         bool_of_string' user_only_obj,
 269         bool_of_string' user_only_rel,
 270         bool_of_string' user_only_sort)
 271       in
 272       let only' =
 273        (if user_only_obj  then only_obj else None),
 274        (if user_only_rel  then only_rel else None),
 275        (if user_only_sort then only_sort else None)
 276       in
 277       let must' =
 278        let rec filter_some =
 279         function
 280            [] -> []
 281          | None::tl -> filter_some tl
 282          | (Some x)::tl -> x::(filter_some tl)
 283        in
 284         filter_some (add_user_must33 user_obj obj),
 285         filter_some (add_user_must22 user_rel rel),
 286         filter_some (add_user_must32 user_sort sort)
 287       in
 288       (must', only')
 289   | _ -> failwith ("Can't parse constraint string: " ^ constraints)
 290 in
 291
 292 let send_results results
 293   ?(id_to_uris = DisambiguatingParser.EnvironmentP3.of_string "")
 294    (req: Http_types.request) outchan
 295   =
 296   Http_daemon.send_basic_headers ~code:(`Code 200) outchan ;
 297   Http_daemon.send_header "Content-Type" "text/xml" outchan;
 298   Http_daemon.send_CRLF outchan ;
 299   let subst =
 300     (search_engine_url_RE, my_own_url) ::
 301     (results_RE, theory_of_result results)::
 302     (advanced_tag_RE, req#param "advanced")::
 303     (expression_tag_RE, req#param "expression")::
 304     (List.map
 305       (function (key,value) ->
 306         let key' = (Pcre.extract ~pat:"param\\.(.*)" key).(1) in
 307         Pcre.regexp ("@" ^ key' ^ "@"), value)
 308       (List.filter
 309               (fun (key,_) as p-> Pcre.pmatch ~pat:"^param\\." key)
 310               req#params))
 311     in
 312     iter_file
 313       (fun line ->
 314         let new_aliases =
 315           DisambiguatingParser.EnvironmentP3.to_string id_to_uris
 316         in
 317         let processed_line =
 318           apply_substs
 319             (* CSC: Bug here: this is a string, not an array! *)
 320             ((new_aliases_RE, "'" ^ javascript_quote new_aliases ^ "'")::subst)
 321             line
 322         in
 323         output_string outchan (processed_line ^ "\n"))
 324       final_results_TPL
 325 in
 326
 327 let exec_action mqi_handle (req: Http_types.request) outchan =
 328   let term_string = req#param "expression" in
 329   let (context, metasenv) = ([], []) in
 330   let id_to_uris_raw =
 331     try req#param "aliases"
 332     with Http_types.Param_not_found _ -> ""
 333   in
 334   let parse_interpretation_choices choices =
 335     List.map int_of_string (Pcre.split ~pat:" " choices) in
 336   let parse_choices choices_raw =
 337     let choices = Pcre.split ~pat:";" choices_raw in
 338       List.fold_left
 339         (fun f x ->
 340            match Pcre.split ~pat:"\\s" x with
 341              | ""::id::tail
 342              | id::tail when id<>"" ->
 343                  (fun id' ->
 344                     if id = id' then
 345                       Some (List.map (fun u -> Netencoding.Url.decode u) tail)
 346                     else
 347                       f id')
 348              | _ -> failwith "Can't parse choices")
 349         (fun _ -> None)
 350         choices
 351   in
 352   let id_to_uris =
 353     DisambiguatingParser.EnvironmentP3.of_string id_to_uris_raw in
 354   let id_to_choices =
 355     try
 356       let choices_raw = req#param "choices" in
 357         parse_choices choices_raw
 358     with Http_types.Param_not_found _ -> (fun _ -> None)
 359   in
 360   let interpretation_choices =
 361     try
 362       let choices_raw = req#param "interpretation_choices" in
 363       if choices_raw = "" then None
 364       else Some (parse_interpretation_choices choices_raw)
 365     with Http_types.Param_not_found _ -> None
 366   in
 367   let module Chat: DisambiguateTypes.Callbacks =
 368     struct
 369
 370       let interactive_user_uri_choice
 371         ~selection_mode ?ok
 372         ?enable_button_for_non_vars ~(title: string) ~(msg: string)
 373         ~(id: string) (choices: string list)
 374         =
 375         (match id_to_choices id with
 376            | Some choices -> choices
 377            | None ->
 378               if req#param "advanced" = "no" then
 379                 let isvar s =
 380                   let len = String.length s in
 381                   let suffix = String.sub s (len-4) 4 in
 382                     not (suffix  = ".var") in
 383                 List.filter isvar choices
 384               else
 385                let msg = Pcre.replace ~pat:"\'" ~templ:"\\\'" msg in
 386                (match selection_mode with
 387                   | `SINGLE -> assert false
 388                   | `MULTIPLE ->
 389                       Http_daemon.send_basic_headers ~code:(`Code 200) outchan;
 390                       Http_daemon.send_CRLF outchan ;
 391                       let check_box uri =
 392                         "<input type=\"checkbox\" name=\"param.choices\"
 393                         value=\"" ^
 394                         uri ^ "\" />" ^ "<b>" ^ uri ^ "</b>" in
 395 (* aggiungere gli hyperlinks? *)
 396                       let check_boxes =
 397                         String.concat "<br />"
 398                           (List.map check_box choices) in
 399                       iter_file
 400                         (fun line ->
 401                            let processed_line =
 402                              apply_substs
 403                                [advanced_tag_RE, req#param "advanced";
 404                                 choices_tag_RE, check_boxes;
 405                                 no_choices_tag_RE,
 406                                    string_of_int (List.length choices);
 407                                 iden_tag_RE, id;
 408                                 current_choices_tag_RE, req#param "choices";
 409                                 expression_tag_RE, req#param "expression";
 410                                 action_tag_RE, string_tail req#path ]
 411                                line
 412                            in
 413                              output_string outchan (processed_line ^ "\n"))
 414                         interactive_user_uri_choice_TPL;
 415                         raise Chat_unfinished))
 416
 417       let interactive_interpretation_choice interpretations =
 418         match interpretation_choices with
 419             Some l -> prerr_endline "CARRAMBA" ; l
 420           | None ->
 421               let html_interpretations =
 422                 let radio_button n =
 423                   "<input type=\"radio\" name=\"param.interp\" value=\"" ^
 424                   (string_of_int n) ^ "\" />" in
 425                 let text interp =
 426                   String.concat "<br />"
 427                     (List.map
 428                        (fun (id, value) ->
 429                           sprintf "<span>%s = %s</span>" id value)
 430                        interp) in
 431                 let rec aux n =
 432                   function
 433                       [] -> []
 434                     | interp::tl ->
 435                         ((radio_button n)^(text interp))::(aux (n+1) tl) in
 436                 String.concat "<br />" (aux 0 interpretations)
 437               in
 438               Http_daemon.send_basic_headers ~code:(`Code 200) outchan ;
 439               Http_daemon.send_CRLF outchan ;
 440               iter_file
 441                 (fun line ->
 442                    let processed_line =
 443                      apply_substs
 444                        [advanced_tag_RE, req#param "advanced";
 445                         interpretations_RE, html_interpretations;
 446                         current_choices_tag_RE, req#param "choices";
 447                         expression_tag_RE, req#param "expression";
 448                         action_tag_RE, string_tail req#path ]
 449                         line
 450                    in
 451                    output_string outchan (processed_line ^ "\n"))
 452                 interactive_interpretation_choice_TPL;
 453               raise Chat_unfinished
 454
 455       let input_or_locate_uri ~title ?id () =
 456         assert false
 457
 458     end
 459   in
 460   let module Disambiguate' = DisambiguatingParser.Make(Chat) in
 461   let (id_to_uris', metasenv', term') =
 462     match
 463       Disambiguate'.disambiguate_term mqi_handle
 464         context metasenv term_string id_to_uris
 465     with
 466         [id_to_uris',metasenv',term'] -> id_to_uris',metasenv',term'
 467       | _ -> assert false
 468         in
 469   let universe,
 470   ((must_obj, must_rel, must_sort) as must'),
 471   ((only_obj, only_rel, only_sort) as only) =
 472     get_constraints term' req#path
 473   in
 474   let must'', only' =
 475     (try
 476        add_user_constraints
 477          ~constraints:(req#param "constraints")
 478          (must', only)
 479      with Http_types.Param_not_found _ ->
 480        if req#param "advanced" = "no" then
 481          (must',only)
 482        else
 483        let variables =
 484          "var aliases = '" ^ id_to_uris_raw ^ "';\n" ^
 485          "var constr_obj_len = " ^
 486          string_of_int (List.length must_obj) ^ ";\n" ^
 487          "var constr_rel_len = " ^
 488          string_of_int (List.length must_rel) ^ ";\n" ^
 489          "var constr_sort_len = " ^
 490          string_of_int (List.length must_sort) ^ ";\n" in
 491        let form =
 492          (if must_obj = [] then "" else
 493             "<h4>Obj constraints</h4>" ^
 494             "<table>" ^
 495             (String.concat "\n" (List.map html_of_r_obj must_obj)) ^
 496             "</table>" ^
 497             (* The following three lines to make Javascript create *)
 498             (* the constr_obj[] and obj_depth[] arrays even if we  *)
 499             (* have only one real entry.                           *)
 500             "<input type=\"hidden\" name=\"constr_obj\" />" ^
 501             "<input type=\"hidden\" name=\"obj_depth\" />") ^
 502          (if must_rel = [] then "" else
 503             "<h4>Rel constraints</h4>" ^
 504             "<table>" ^
 505             (String.concat "\n" (List.map html_of_r_rel must_rel)) ^
 506             "</table>" ^
 507             (* The following two lines to make Javascript create *)
 508             (* the constr_rel[] and rel_depth[] arrays even if   *)
 509             (* we have only one real entry.                      *)
 510             "<input type=\"hidden\" name=\"constr_rel\" />" ^
 511             "<input type=\"hidden\" name=\"rel_depth\" />") ^
 512          (if must_sort = [] then "" else
 513             "<h4>Sort constraints</h4>" ^
 514             "<table>" ^
 515             (String.concat "\n" (List.map html_of_r_sort must_sort)) ^
 516             "</table>" ^
 517             (* The following two lines to make Javascript create *)
 518             (* the constr_sort[] and sort_depth[] arrays even if *)
 519             (* we have only one real entry.                      *)
 520             "<input type=\"hidden\" name=\"constr_sort\" />" ^
 521             "<input type=\"hidden\" name=\"sort_depth\" />") ^
 522          "<h4>Only constraints</h4>" ^
 523          "Enforce Only constraints for objects: " ^
 524          "<input type='checkbox' name='only_obj'" ^
 525          (if only_obj = None then "" else " checked='yes'") ^
 526          " /><br />" ^
 527          "Enforce Rel constraints for objects: " ^
 528          "<input type='checkbox' name='only_rel'" ^
 529          (if only_rel = None then "" else " checked='yes'") ^
 530          " /><br />" ^
 531          "Enforce Sort constraints for objects: " ^
 532          "<input type='checkbox' name='only_sort'" ^
 533          (if only_sort = None then "" else " checked='yes'") ^
 534          " /><br />"
 535        in
 536        Http_daemon.send_basic_headers ~code:(`Code 200) outchan ;
 537        Http_daemon.send_CRLF outchan ;
 538        iter_file
 539          (fun line ->
 540             let processed_line =
 541               apply_substs
 542                 [form_RE, form ;
 543                  variables_initialization_RE, variables;
 544                  advanced_tag_RE, req#param "advanced";
 545                  current_choices_tag_RE, req#param "choices";
 546                  interpretations_RE, req#param "interpretation_choices";
 547                  expression_tag_RE, req#param "expression";
 548                  action_tag_RE, string_tail req#path]  line
 549             in
 550               output_string outchan (processed_line ^ "\n"))
 551          constraints_choice_TPL;
 552        raise Chat_unfinished)
 553   in
 554   let query =
 555     G.query_of_constraints universe must'' only'
 556   in
 557   let results = MQueryInterpreter.execute mqi_handle query in
 558   send_results results ~id_to_uris:id_to_uris' req outchan
 559 in
 560
 561 (* HTTP DAEMON CALLBACK *)
 562
 563 let build_dynamic_uri url params =
 564   let p =
 565     String.concat "&" (List.map  (fun (key,value) -> (key ^ "=" ^ (Netencoding.Url.encode value))) params) in
 566   url ^ "?" ^ p
 567 in
 568
 569 let build_uwobo_request (req: Http_types.request) outchan =
 570   prerr_endline ("ECCOLO: " ^ req#param "param.SEARCH_ENGINE_URL");
 571   let xmluri = build_dynamic_uri ((req#param "param.SEARCH_ENGINE_URL") ^ "/search") req#params in
 572   prerr_endline ("xmluri: " ^ xmluri);
 573   (*let xmluri = Netencoding.Url.encode xmluri in*)
 574   let server_and_port = req#param "param.processorURL" in
 575   let newreq =
 576     build_dynamic_uri
 577       (server_and_port ^ "apply")
 578       (("xmluri",xmluri)::("keys",(req#param "param.thkeys"))::req#params) in
 579   (* if List.mem server_and_port valid_servers then *)
 580   prerr_endline newreq;
 581   if true then
 582     Http_daemon.respond
 583       ~headers:["Content-Type", "text/html"]
 584       ~body:(Http_client.http_get newreq)
 585       outchan
 586   else
 587     Http_daemon.respond
 588       ~body:(pp_error ("Untrusted UWOBO server: " ^ server_and_port ^
 589       (String.concat "\n" valid_servers)))
 590       outchan
 591 in
 592
 593 let proxy url outchan =
 594   let server_and_port =
 595     (Pcre.extract ~rex:server_and_port_url_RE url).(1)
 596   in
 597   if List.mem server_and_port valid_servers then
 598     Http_daemon.respond
 599       ~headers:["Content-Type", "text/html"]
 600       ~body:(Http_client.http_get url)
 601       outchan
 602   else
 603     Http_daemon.respond
 604       ~body:(pp_error ("Untrusted UWOBO server: " ^ server_and_port))
 605       outchan
 606 in
 607
 608 let callback mqi_handle (req: Http_types.request) outchan =
 609   try
 610     debug_print (sprintf "Received request: %s" req#path);
 611     (match req#path with
 612     | "/help" -> Http_daemon.respond ~body:"HELM Search Engine" outchan
 613     | "/locate" ->
 614         let initial_expression =
 615           try req#param "expression" with Http_types.Param_not_found _ -> ""
 616         in
 617         let expression =
 618           Pcre.replace ~pat:"\\s*$"
 619             (Pcre.replace ~pat:"^\\s*" initial_expression)
 620         in
 621         if expression = "" then
 622           send_results [] req outchan
 623         else
 624           let results =
 625             let query = G.locate expression in
 626              MQueryInterpreter.execute mqi_handle query
 627           in
 628           send_results results req outchan
 629     | "/execute" ->
 630         let query_string = req#param "query" in
 631         let lexbuf = Lexing.from_string query_string in
 632         let query = MQueryUtil.query_of_text lexbuf in
 633         let result = MQueryInterpreter.execute mqi_handle query in
 634         let result_string = pp_result result in
 635         Http_daemon.respond ~body:result_string ~headers:[contype] outchan
 636 (*  Http_daemon.respond ~headers:[contype] ~body:(pp_result result) outchan *)
 637     | "/unreferred" ->
 638         let target = req#param "target" in
 639         let source = req#param "source" in
 640         let query = G.unreferred target source in
 641         let result = MQueryInterpreter.execute mqi_handle query in
 642         Http_daemon.respond ~headers:[contype] ~body:(pp_result result) outchan
 643     | "/getpage" ->
 644         (* TODO implement "is_permitted" *)
 645         let _ = prerr_endline
 646           (Netencoding.Url.encode "http://mowgli.cs.unibo.it:38080/") in
 647         (let is_permitted _ = true in
 648         let remove_fragment uri = Pcre.replace ~pat:"#.*" uri in
 649         let page = remove_fragment (req#param "url") in
 650         let preprocess =
 651           (try
 652             bool_of_string (req#param "preprocess")
 653           with Invalid_argument _ | Http_types.Param_not_found _ -> false)
 654         in
 655         (match page with
 656         | page when is_permitted page ->
 657             (let fname = sprintf "%s/%s" pages_dir (remove_fragment page) in
 658             Http_daemon.send_basic_headers ~code:(`Code 200) outchan;
 659             Http_daemon.send_header "Content-Type" "text/html" outchan;
 660             Http_daemon.send_CRLF outchan;
 661             if preprocess then begin
 662               iter_file
 663                 (fun line ->
 664                   output_string outchan
 665                     ((apply_substs
 666                        ((search_engine_url_RE, my_own_url) ::
 667                         (advanced_tag_RE, "no") ::
 668                         (results_RE, "") ::
 669                        (List.map
 670                          (function (key,value) ->
 671                            let key' =
 672                             (Pcre.extract ~pat:"param\\.(.*)" key).(1)
 673                            in
 674                             Pcre.regexp ("@" ^ key' ^ "@"), value
 675                          )
 676                          (List.filter
 677                            (fun (key,_) as p-> Pcre.pmatch ~pat:"^param\\." key)
 678                            req#params)
 679                        ))
 680                        line) ^
 681                     "\n"))
 682                 fname
 683             end else
 684               Http_daemon.send_file ~src:(FileSrc fname) outchan)
 685         | page -> Http_daemon.respond_forbidden ~url:page outchan))
 686     (* OLD | "/ask_uwobo" -> proxy (req#param "url") outchan *)
 687     | "/ask_uwobo" -> build_uwobo_request req outchan
 688     | "/hint"
 689     | "/match"
 690     | "/elim" ->
 691         exec_action mqi_handle req outchan
 692     | invalid_request ->
 693         Http_daemon.respond_error ~code:(`Status (`Client_error `Bad_request))
 694           outchan);
 695     debug_print (sprintf "%s done!" req#path)
 696   with
 697   | Chat_unfinished -> prerr_endline "Chat unfinished, Try again!"
 698   | Http_types.Param_not_found attr_name ->
 699       bad_request (sprintf "Parameter '%s' is missing" attr_name) outchan
 700   | exc ->
 701       let msg = sprintf "Uncaught exception: %s" (Printexc.to_string exc) in
 702        debug_print msg ;
 703        Http_daemon.respond ~body:(pp_error msg) outchan
 704 in
 705 printf "%s started and listening on port %d\n" daemon_name port;
 706 printf "Current directory is %s\n" (Sys.getcwd ());
 707 printf "HTML directory is %s\n" pages_dir;
 708 flush stdout;
 709 Unix.putenv "http_proxy" "";
 710 let mqi_handle = C.init ~log:debug_print () in
 711 Http_daemon.start' ~port (callback mqi_handle);
 712 C.close mqi_handle;
 713 printf "%s is terminating, bye!\n" daemon_name