Update app.py

app.py

@@ -712,7 +712,7 @@ if __name__ == "__main__":
     )
     # argparser.add_argument("--model-path", type=str, default="facebook/opt-350m")
     argparser.add_argument("--model-base", type=str, default=None)
-    argparser.add_argument("--device_map", type=str, default="cpu")
+    argparser.add_argument("--device_map", type=str, default="auto")
     # argparser.add_argument("--num-gpus", type=int, default=1)
     argparser.add_argument("--conv-mode", type=str, default=None)
     argparser.add_argument("--temperature", type=float, default=0.7)