За последние 24 часа нас посетили 50707 программистов и 1691 робот. Сейчас ищут 1082 программиста ...

Как лучше обработать файл с данными? 17мб

Тема в разделе "Прочее", создана пользователем html-программист, 16 июн 2012.

  1. html-программист

    html-программист Активный пользователь

    С нами с:
    10 фев 2012
    Сообщения:
    831
    Симпатии:
    4
    Адрес:
    Kiev
    Есть файлик с данными 17мб весом, в котором содержится 1 000 000 записей, каждая на новой строке.
    Мне надо обработать эти данные, порциями по 1000 записей. Как лучше сделать? Может их в базу данных перенести?
     
  2. igordata

    igordata Суперстар
    Команда форума Модератор

    С нами с:
    18 мар 2010
    Сообщения:
    32.408
    Симпатии:
    1.768
    что значит обработать?
     
  3. html-программист

    html-программист Активный пользователь

    С нами с:
    10 фев 2012
    Сообщения:
    831
    Симпатии:
    4
    Адрес:
    Kiev
    Это может означать все что угодно :)
    Надо вытащить из файла 1000 строк, запомнить какая была последней, сделать со строками все что угодно :) и вывалить в браузер. После рефреша, вспомнить, какая строка была последней, и проделать то-же самое (все что угодно :) со следующими 1000 строками. И так сделать 1000 раз, пока не закончится файл :)
     
  4. igordata

    igordata Суперстар
    Команда форума Модератор

    С нами с:
    18 мар 2010
    Сообщения:
    32.408
    Симпатии:
    1.768
    Читай блоками и смотри, набралось ли 1000 строк.
     
  5. html-программист

    html-программист Активный пользователь

    С нами с:
    10 фев 2012
    Сообщения:
    831
    Симпатии:
    4
    Адрес:
    Kiev
    Проблема отпала. Только что обрабатывал файлы логов на 100 000 записей, тоже 17 метров - весь файл обрабатывает за пару секунд.
     
  6. [vs]

    [vs] Суперстар
    Команда форума Модератор

    С нами с:
    27 сен 2007
    Сообщения:
    10.559
    Симпатии:
    632
    Дык надо сразу писать, для чего это надо. Обычно в PHP, пара секунд - это очень много.
     
  7. igordata

    igordata Суперстар
    Команда форума Модератор

    С нами с:
    18 мар 2010
    Сообщения:
    32.408
    Симпатии:
    1.768
    Ну что тут скажешь?..