Java 文件分块上传服务器端源代码

来源:互联网 发布:2016能看片的软件 编辑:程序博客网 时间:2024/04/30 23:53
 本博客将介绍如何进行文件的分块上传。如果读者还想了解文件的“分块”下载相关内容可以去参考博客《Java 服务器端支持断点续传的源代码【支持快车、迅雷】》。
        本文侧重介绍服务器端,客户端端请参考本篇博客的姊妹篇《Java 文件分块上传客户端源代码》,关于分块上传的思想及其流程,已在该博客中进行了详细说明,这里不再赘述。

        直接上代码。接收客户端 HTTP 分块上传请求的 Spring MVC 控制器源代码如下:

[java] view plaincopyprint?
  1. @Controller  
  2. public class UploadController extends BaseController {  
  3.   
  4.     private static final Log log = LogFactory.getLog(UploadController.class);  
  5.     private UploadService uploadService;  
  6.     private AuthService authService;  
  7.   
  8.     /** 
  9.      * 大文件分成小文件块上传,一次传递一块,最后一块上传成功后,将合并所有已经上传的块,保存到File Server 
  10.      * 上相应的位置,并返回已经成功上传的文件的详细属性. 当最后一块上传完毕,返回上传成功的信息。此时用getFileList查询该文件, 
  11.      * 该文件的uploadStatus为2。client请自行处理该状态下文件如何显示。(for UPS Server) 
  12.      *  
  13.      */  
  14.     @RequestMapping("/core/v1/file/upload")  
  15.     @ResponseBody  
  16.     public Object upload(HttpServletResponse response,  
  17.             @RequestParam(value = "client_id", required = false) String appkey,  
  18.             @RequestParam(value = "sig", required = false) String appsig,  
  19.             @RequestParam(value = "token", required = false) String token,  
  20.             @RequestParam(value = "uuid", required = false) String uuid,  
  21.             @RequestParam(value = "block", required = false) String blockIndex,  
  22.             @RequestParam(value = "file", required = false) MultipartFile multipartFile,  
  23.             @RequestParam Map<String, String> parameters) {  
  24.   
  25.         checkEmpty(appkey, BaseException.ERROR_CODE_16002);  
  26.         checkEmpty(token, BaseException.ERROR_CODE_16007);  
  27.         checkEmpty(uuid, BaseException.ERROR_CODE_20016);  
  28.         checkEmpty(blockIndex, BaseException.ERROR_CODE_20006);  
  29.         checkEmpty(appsig, BaseException.ERROR_CODE_10010);  
  30.         if (multipartFile == null) {  
  31.             throw new BaseException(BaseException.ERROR_CODE_20020);// 上传文件不存在  
  32.         }  
  33.         Long uuidL = parseLong(uuid, BaseException.ERROR_CODE_20016);  
  34.         Integer blockIndexI = parseInt(blockIndex, BaseException.ERROR_CODE_20006);  
  35.           
  36.         Map<String, Object> appMap = getAuthService().validateSigature(parameters);  
  37.   
  38.         AccessToken accessToken = CasUtil.checkAccessToken(token, appMap);  
  39.         Long uid = accessToken.getUid();  
  40.         String bucketUrl = accessToken.getBucketUrl();  
  41.         // 从上传目录拷贝文件到工作目录  
  42.         String fileAbsulutePath = null;  
  43.         try {  
  44.             fileAbsulutePath = this.copyFile(multipartFile.getInputStream(), multipartFile.getOriginalFilename());  
  45.         } catch (IOException ioe) {  
  46.             log.error(ioe.getMessage(), ioe);  
  47.             throw new BaseException(BaseException.ERROR_CODE_20020);// 上传文件不存在  
  48.         }  
  49.         File uploadedFile = new File(Global.UPLOAD_TEMP_DIR + fileAbsulutePath);  
  50.         checkEmptyFile(uploadedFile);// file 非空验证  
  51.   
  52.         Object rs = uploadService.upload(uuidL, blockIndexI, uid, uploadedFile, bucketUrl);  
  53.         setHttpStatusOk(response);  
  54.         return rs;  
  55.     }  
  56.   
  57.     // TODO 查看下这里是否有问题  
  58.     // 上传文件非空验证  
  59.     private void checkEmptyFile(File file) {  
  60.         if (file == null || file.getAbsolutePath() == null) {  
  61.             throw new BaseException(BaseException.ERROR_CODE_20020);// 上传文件不存在  
  62.         }  
  63.     }  
  64.   
  65.     /** 
  66.      * 写文件到本地文件夹 
  67.      *  
  68.      * @throws IOException 
  69.      *             返回生成的文件名 
  70.      */  
  71.     private String copyFile(InputStream inputStream, String fileName) {  
  72.         OutputStream outputStream = null;  
  73.         String tempFileName = null;  
  74.         int pointPosition = fileName.lastIndexOf(".");  
  75.         if (pointPosition < 0) {// myvedio  
  76.             tempFileName = UUID.randomUUID().toString();// 94d1d2e0-9aad-4dd8-a0f6-494b0099ff26  
  77.         } else {// myvedio.flv  
  78.             tempFileName = UUID.randomUUID() + fileName.substring(pointPosition);// 94d1d2e0-9aad-4dd8-a0f6-494b0099ff26.flv  
  79.         }  
  80.         try {  
  81.             outputStream = new FileOutputStream(Global.UPLOAD_TEMP_DIR + tempFileName);  
  82.             int readBytes = 0;  
  83.             byte[] buffer = new byte[10000];  
  84.             while ((readBytes = inputStream.read(buffer, 010000)) != -1) {  
  85.                 outputStream.write(buffer, 0, readBytes);  
  86.             }  
  87.             return tempFileName;  
  88.         } catch (IOException ioe) {  
  89.             // log.error(ioe.getMessage(), ioe);  
  90.             throw new BaseException(BaseException.ERROR_CODE_20020);// 上传文件不存在  
  91.         } finally {  
  92.             if (outputStream != null) {  
  93.                 try {  
  94.                     outputStream.close();  
  95.                 } catch (IOException e) {  
  96.                 }  
  97.             }  
  98.             if (inputStream != null) {  
  99.                 try {  
  100.                     inputStream.close();  
  101.                 } catch (IOException e) {  
  102.                 }  
  103.             }  
  104.   
  105.         }  
  106.   
  107.     }  
  108.   
  109.     /** 
  110.      * 测试此服务是否可用 
  111.      *  
  112.      * @param response 
  113.      * @return 
  114.      * @author zwq7978 
  115.      */  
  116.     @RequestMapping("/core/v1/file/testServer")  
  117.     @ResponseBody  
  118.     public Object testServer(HttpServletResponse response) {  
  119.         setHttpStatusOk(response);  
  120.         return Global.SUCCESS_RESPONSE;  
  121.     }  
  122.   
  123.     public UploadService getUploadService() {  
  124.         return uploadService;  
  125.     }  
  126.   
  127.     public void setUploadService(UploadService uploadService) {  
  128.         this.uploadService = uploadService;  
  129.     }  
  130.   
  131.     public void setAuthService(AuthService authService) {  
  132.         this.authService = authService;  
  133.     }  
  134.   
  135.     public AuthService getAuthService() {  
  136.         return authService;  
  137.     }  
  138.   
  139. }  

        比如要上传的文件是 test450k.mp4。对照《Java 文件分块上传客户端源代码》中分块上传服务器对分块文件参数定义的名字"file",upload 方法里使用的是 MultipartFile 接收该对象。对于每次的 HTTP 请求,使用 copyFile 方法将文件流输出到服务器本地的一个临时文件夹里,比如作者的是 D:/defonds/syncPath/uploadTemp,该文件下会有 50127019-b63b-4a54-8f53-14efd1e58ada.mp4 临时文件生成用于保存上传文件流。

        分块依次上传。当所有块都上传完毕之后,将这些临时文件都转移到服务器指定目录中,比如作者的这个目录是 D:/defonds/syncPath/file,在该文件夹下会有/1/temp_dir_5_1 目录生成,而 uploadTemp 的临时文件则被挨个转移到这个文件夹下,生成形如 5.part0001 的文件。以下是文件转移的源代码:

[java] view plaincopyprint?
  1. /** 
  2.  * 把所有块从临时文件目录移到指定本地目录或S2/S3 
  3.  *  
  4.  * @param preUpload 
  5.  */  
  6. private void moveBlockFiles(BlockPreuploadFileInfo preUpload) {  
  7.     @SuppressWarnings("unchecked")  
  8.     String[] s3BlockUrl=new String[preUpload.getBlockNumber()];  
  9.     String[] localBlockUrl=new String[preUpload.getBlockNumber()];//本地的块文件路径    以便以后删除  
  10.     List<BlockUploadInfo> blocks = (List<BlockUploadInfo>) getBaseDao().queryForList(  
  11.             "upload.getBlockUploadFileByUuid", preUpload.getUuid());  
  12.               
  13.     String tempDirName = SyncUtil.getTempDirName(preUpload.getUuid(), preUpload.getUid());  
  14.     String parentPath = Global.UPLOAD_ABSOLUTE_PAHT_ + Global.PATH_SEPARATIVE_SIGN  
  15.             + String.valueOf(preUpload.getUid());  
  16.     String dirPath = parentPath + Global.PATH_SEPARATIVE_SIGN + tempDirName;  
  17.     new File(dirPath).mkdirs();//创建存放块文件的文件夹 (本地)  
  18.     int j=0;  
  19.     for (BlockUploadInfo info : blocks) {  
  20.         try {  
  21.             String strBlockIndex = createStrBlockIndex(info.getBlockIndex());  
  22.             String suffixPath = preUpload.getUuid() + ".part" + strBlockIndex;  
  23.             String tempFilePath = info.getTempFile();  
  24.             File tempFile = new File(tempFilePath);  
  25.             File tmpFile = new File(dirPath + suffixPath);  
  26.             if (tmpFile.exists()) {  
  27.                 FileUtils.deleteQuietly(tmpFile);  
  28.             }  
  29.             FileUtils.moveFile(tempFile, tmpFile);  
  30.             localBlockUrl[j]=dirPath + suffixPath;  
  31.             j++;  
  32.             info.setStatus(Global.MOVED_TO_NEWDIR);  
  33.             getBaseDao().update("upload.updateBlockUpload", info);  
  34.             if (log.isInfoEnabled())  
  35.                 log.info(preUpload.getUuid() + " " + info.getBuId() + " moveBlockFiles");  
  36.         } catch (IOException e) {  
  37.             log.error(e.getMessage(), e);  
  38.             throw new BaseException("file not found");  
  39.         }  
  40.     }  
  41.     preUpload.setLocalBlockUrl(localBlockUrl);  
  42.     preUpload.setDirPath(dirPath);  
  43.     preUpload.setStatus(Global.MOVED_TO_NEWDIR);  
  44.     getBaseDao().update("upload.updatePreUploadInfo", preUpload);  
  45. }  
  46.   
  47. private String createStrBlockIndex(int blockIndex) {  
  48.     String strBlockIndex;  
  49.     if (blockIndex < 10) {  
  50.         strBlockIndex = "000" + blockIndex;  
  51.     } else if (10 <= blockIndex && blockIndex < 100) {  
  52.         strBlockIndex = "00" + blockIndex;  
  53.     } else if (100 <= blockIndex && blockIndex < 1000) {  
  54.         strBlockIndex = "0" + blockIndex;  
  55.     } else {  
  56.         strBlockIndex = "" + blockIndex;  
  57.     }  
  58.     return strBlockIndex;  
  59. }  

        最后是文件的组装源代码:

[java] view plaincopyprint?
  1. /** 
  2.  * 组装文件 
  3.  *  
  4.  */  
  5. private void assembleFileWithBlock(BlockPreuploadFileInfo preUpload) {  
  6.     String dirPath = preUpload.getDirPath();  
  7.     // 开始在指定目录组装文件  
  8.     String uploadedUrl = null;  
  9.     String[] separatedFiles;  
  10.     String[][] separatedFilesAndSize;  
  11.     int fileNum = 0;  
  12.     File file = new File(dirPath);  
  13.     separatedFiles = file.list();  
  14.     separatedFilesAndSize = new String[separatedFiles.length][2];  
  15.     Arrays.sort(separatedFiles);  
  16.     fileNum = separatedFiles.length;  
  17.     for (int i = 0; i < fileNum; i++) {  
  18.         separatedFilesAndSize[i][0] = separatedFiles[i];  
  19.         String fileName = dirPath + separatedFiles[i];  
  20.         File tmpFile = new File(fileName);  
  21.         long fileSize = tmpFile.length();  
  22.         separatedFilesAndSize[i][1] = String.valueOf(fileSize);  
  23.     }  
  24.   
  25.     RandomAccessFile fileReader = null;  
  26.     RandomAccessFile fileWrite = null;  
  27.     long alreadyWrite = 0;  
  28.     int len = 0;  
  29.     byte[] buf = new byte[1024];  
  30.     try {  
  31.         uploadedUrl = Global.UPLOAD_ABSOLUTE_PAHT_ + Global.PATH_SEPARATIVE_SIGN + preUpload.getUid() + Global.PATH_SEPARATIVE_SIGN + preUpload.getUuid();  
  32.         fileWrite = new RandomAccessFile(uploadedUrl, "rw");  
  33.         for (int i = 0; i < fileNum; i++) {  
  34.             fileWrite.seek(alreadyWrite);  
  35.             // 读取  
  36.             fileReader = new RandomAccessFile((dirPath + separatedFilesAndSize[i][0]), "r");  
  37.             // 写入  
  38.             while ((len = fileReader.read(buf)) != -1) {  
  39.                 fileWrite.write(buf, 0, len);  
  40.             }  
  41.             fileReader.close();  
  42.             alreadyWrite += Long.parseLong(separatedFilesAndSize[i][1]);  
  43.         }  
  44.         fileWrite.close();  
  45.         preUpload.setStatus(Global.ASSEMBLED);  
  46.         preUpload.setServerPath(uploadedUrl);  
  47.         getBaseDao().update("upload.updatePreUploadInfo", preUpload);  
  48.           
  49.         if(Global.BLOCK_UPLOAD_TO!=Global.BLOCK_UPLOAD_TO_LOCAL)  
  50.         {  
  51.         //组装完毕没有问题  删除掉S2/S3上的block  
  52.         String[] path=preUpload.getS3BlockUrl();  
  53.         for (String string : path) {  
  54.             try {  
  55.                 if(Global.BLOCK_UPLOAD_TO==Global.BLOCK_UPLOAD_TO_S2)  
  56.                 {  
  57.                 S2Util.deleteFile(preUpload.getBucketUrl(), string);  
  58.                 }else  
  59.                 {  
  60.                 S3Util.deleteFile(preUpload.getBucketUrl(), string);  
  61.                 }  
  62.             } catch (Exception e) {  
  63.                 log.error(e.getMessage(), e);  
  64.             }  
  65.         }  
  66.         }  
  67.         if (log.isInfoEnabled())  
  68.             log.info(preUpload.getUuid() + " assembleFileWithBlock");  
  69.     } catch (IOException e) {  
  70.         log.error(e.getMessage(), e);  
  71.         try {  
  72.             if (fileReader != null) {  
  73.                 fileReader.close();  
  74.             }  
  75.             if (fileWrite != null) {  
  76.                 fileWrite.close();  
  77.             }  
  78.         } catch (IOException ex) {  
  79.             log.error(e.getMessage(), e);  
  80.         }  
  81.     }  
  82.   
  83. }  

        BlockPreuploadFileInfo 是我们自定义的业务文件处理 bean。
        OK,分块上传的服务器、客户端源代码及其工作流程至此已全部介绍完毕,以上源代码全部是经过项目实践过的,大部分现在仍运行于一些项目之中。有兴趣的朋友可以自己动手,将以上代码自行改造,看看能否运行成功。如果遇到问题可以在本博客下跟帖留言,大家一起讨论讨论。