Объявления е1 без посредников.

_Programmist_
10:31, 31.03.2010
Что-то ночью мне сегодня не спалось, и решил я таки доделать свою программку по отсеиванию посредников с сервиса недвижимости на е1. Кому интересно - можно потестить, скачивать здесь - [url]http://webfile.ru/4395470[/url]. Запускать необходимо файл e1.exe

Краткое описание:
Сразу хочу сказать, что программка - не онлайновая, она не лезет на е1 (и вообще не лезет в интернет). Таким образом, доступны только те объявления, которые лежат в файле 1.xml рядом с файлом программки. На данный момент там лежат все объявления о сдаче квартир, которые были размещены на е1 с полуночи 22.03.2010 (прошлый понедельник) до примерно 4х часов 31.03.2010 (сегодняшний день). Всего получается почти 10.000 объявлений, среди которых конечно дофига повторов.
Программу, которая создает этот самый файл я пока не выкладываю: во-первых, она работает далеко не быстро; во вторых, сервис недвижимости на е1, к сожалению, иногда работает с ошибками, так что получение объявлений связано с некоторыми трудностями; и в третьих - я не хочу создавать дополнительную нагрузку на серверы Е1, которая несомненно появится, если 100 человек одновременно запросят 10.000 объявлений.
Ну а теперь по программке - скриншот

Фотография из Фотогалереи на E1.ru

Все просто: выбираем нужные районы, выставляем максимальную цену аренды с коммуналкой и без коммуналки, выбираем нужное количество комнат и жмем кнопку "Отобрать".
Если хотим - меняем значение параметра "Отображать только тех, у кого не больше Х объявлений". Чуть подробнее: если в этом окошке проставлена цифра 3, то будут отображаться только те объявления, авторы которых разместили не больше 3х объявлений за вышеуказанный промежуток (22.03.10-31.03.10). Таким образом, отсеются те агенты, которые многократно клонируют каждое объявление. Алгоритм отсеивания таких агентов несовершеннен, так как у меня меньше информации, чем у админов Е1, но самых наглых посредников вроде отсеивает :-)
По умолчанию этот параметр равен 3, так как обычный пользователь типа меня может одновременно разместить не более 3х объявлений. Если выставить значение 1 - отобразятся объявления только тех авторов, у которых всего одно объявление было активно на сегодняшнее раннее утро.
Ну и наконец, полученные результаты можно отсортировать по любому столбцу - для этого необходимо щелкнуть по заголовку столбца. А если сделать двойной щелчок по выбранной строчке - откроется страница е1 с этим объявлением (правда, для этого уже нужен доступ в интернет).

Напоследок хочу сказать - программка конечно же не отсеет 100% посредников и агентов, ибо это невозможно. Она отсеет лишь тех, кто бездумно копирует каждое объявление от собственника.
С другой стороны, если вы нашли какое-то объявление с комментарием "посредник", но предполагаете, что эту квартиру когда-то размещал на е1 собственник - попробуйте отсортировать по адресу, и просмотрите все объявления по этому адресу - и возможно, вы найдете это объявление

Вроде все. Если есть вопросы, предложения, заметили ошибки - пишите.

Если программка будет пользоваться успехом - придумаю какой-нибудь механизм регулярного обновления данных с Е1, либо просто буду периодически выкладывать файл с новыми объявлениями.

[Сообщение изменено пользователем 31.03.2010 10:38]

[Сообщение изменено пользователем 31.03.2010 11:08]
66 / 3
Нужное дело!
6 / 0
ай маладца автор... ну хоть кто-то взялся! :super:

надо только как-то наладить обновления - ну да не всё сразу.
7 / 0
Mishа
10:50, 31.03.2010
Классная вещь ! многим пригодится и глядишь е1 свой функционал доработает
3 / 0
10:53, 31.03.2010
От пользователя _Programmist_

а вы можете определить долю "условно-частных" объявлений с помощью этой программы? по отношению к общей массе
3 / 0
сейчас читают
Uzanto
10:59, 31.03.2010
От пользователя _Programmist_
На данный момент там лежат все объявления о сдаче квартир, которые были размещены на е1 с полуночи 22.03.2010 (прошлый понедельник) до примерно 4х часов 31.03.2010

Очень маленький промежуток времени.
1 / 1
_Programmist_
11:01, 31.03.2010
От пользователя HALOHEN
а вы можете определить долю "условно-частных" объявлений с помощью этой программы? по отношению к общей массе
Не совсем понял, что такое "условно-частное"
Если говорить о том, сколько уникальных объявлений на е1 - то из тех 10.000 с 22.03, количество уникальных объявлений я оцениваю примерно в 700-800. Таким образом, на одно объявление приходится 12-15 копий. Часть из этих копий по прежнему от первого автора (автор с целью поднять свое объявление повыше дублирует его, но забывает удалить копию), но таких копий конечно довольно мало. Практически все копии - это копии посредников.

[Сообщение изменено пользователем 31.03.2010 11:10]
10 / 0
_Programmist_
11:04, 31.03.2010
От пользователя M.J.™ [сливаю все]
Очень маленький промежуток времени.
10 дней - не так уж и мало :-) И за это время набралось 10.000 объявлений. Файл с объявлениями почти 10мб весит :-)
Впрочем, постараюсь сегодня вечером запустить парсинг с начала марта, или даже с начала года.. Просто это нифига не быстрая операция, как оказалось :-( Е1 не справляется. Вот был бы у меня прямой доступ к базе данных - так тогда бы без проблем можно было бы и с начала времен объявления искать :-)

[Сообщение изменено пользователем 31.03.2010 11:06]
4 / 0
Uzanto
11:12, 31.03.2010
От пользователя _Programmist_
10 дней - не так уж и мало

я вот собственник,но мне лень обновлять,объявление каждые 10 дней
3 / 3
11:29, 31.03.2010
От пользователя _Programmist_
что такое "условно-частное"

недублированные объявления можно условно считать частными - классификация по косвенному признаку, хоть и по характерному, но все же не факт
От пользователя _Programmist_
количество уникальных объявлений я оцениваю примерно в 700-800

вот вам и весь объем рынка аренды. ответы на все вопросы "почему так дорого". на полуторамиллионный город маловато будет
2 / 1
ШУМный
11:31, 31.03.2010
что хотел показать автор темы ? )))

пишет программы - молодец )))

но - база уже не актуальна, скачать новую е1 не даст - не дураки же :-D

саму программу еще доделывать и доделывать )) а отсортированную базу продать нельзя - закон о персональных данных ;-) продали и на следующее утро уже не программируете, а рубите лес )
4 / 13
11:37, 31.03.2010
От пользователя ШУМный
а отсортированную базу продать нельзя - закон о персональных данных ;-)

а как же владельцы справочников? инфа же из открытых источниках
6 / 0
11:39, 31.03.2010
12) общедоступные персональные данные - персональные данные, доступ неограниченного круга лиц к которым предоставлен с согласия субъекта персональных данных или на которые в соответствии с федеральными законами не распространяется требование соблюдения конфиденциальности.
4 / 0
ШУМный
11:39, 31.03.2010
От пользователя HALOHEN
а как же владельцы справочников? инфа же из открытых источниках

ну удачи автору в продаже базы ))))
2 / 4
<<<AA>>>
11:43, 31.03.2010
От пользователя _Programmist_
Что-то ночью мне сегодня не спалось

Вот все программисты так, как не спится так делают че-нить, потом продают.
Пора зарабатывать на риелторах.
4 / 0
Oльга_
12:24, 31.03.2010
От пользователя ШУМный
но - база уже не актуальна, скачать новую е1 не даст - не дураки же :-D

Е1 только рад таким скачивальшикам, т.к. они бесплатно, безо всякой оптимизации и прочего, увеличивают посещаемость сайта, что позволяет дороже продавать рекламу на сайте и вообще увеличивает важность и весомость сайта.
1 / 0
_Programmist_
12:32, 31.03.2010
От пользователя ШУМный
что хотел показать автор темы ? )))
пишет программы - молодец )))
но - база уже не актуальна, скачать новую е1 не даст - не дураки же
саму программу еще доделывать и доделывать )) а отсортированную базу продать нельзя - закон о персональных данных продали и на следующее утро уже не программируете, а рубите лес )

Во первых, с чего вы взяли, что я собираюсь ее продавать.
Во вторых - в каком месте вы видите распространение персональных данных? Все данные взяты из открытых источников, так что закон о персональных данных тут не очень подходит.
В третьих - я не взламывал е1, не копался во внутренностях базы данных - я лишь использовал их сервис для получения исходной информации. Вас же наверное не возмутило бы, если бы я вручную делал Copy-Paste? А закрыть доступ на сервис Недвижимость мне теоретически можно, а практически - довольно таки проблематично.
И в четвертых - это для меня лишь эксперимент. Будет пользоваться спросом - можно будет подумать об организации онлайн-версии на отдельном сайте, с ежеминутной синхронизацией баз, о сборе информации с других источников. и прочее. Не будет - ну что ж, я вообще изначально это только для себя писал, и потратил на это всего несколько часов, так что переживу :-)
14 / 1
НихГди
12:42, 31.03.2010
Аплодирую стоя,если сейчас шакалы-посредники начинают хоть чуть-чуть нервничать, то это уже хорошо
зы Но почему-то программа у меня не запускается

[Сообщение изменено пользователем 31.03.2010 12:46]
6 / 0
13:41, 31.03.2010
автору респект, все отлично работает
0
ШУМный
13:58, 31.03.2010
От пользователя Oльга_
Е1 только рад таким скачивальшикам, т.к. они бесплатно, безо всякой оптимизации и прочего, увеличивают посещаемость сайта, что позволяет дороже продавать рекламу на сайте и вообще увеличивает важность и весомость сайта.

но )) а как тогда продавать коммерческий доступ к сервису недвижимости ? )))
От пользователя _Programmist_

не, вы меня неправильно поняли ) я ваще без наездов - вам только респекты ))
От пользователя НихГди
Но почему-то программа у меня не запускается

наверное потому что у вас вин хп ? ))

[Сообщение изменено пользователем 31.03.2010 14:31]
0 / 1
screamer
14:07, 31.03.2010
От пользователя _Programmist_
количество уникальных объявлений я оцениваю примерно в 700-800. Таким образом, на одно объявление приходится 12-15 копий


Это всё говорит о том, что риэлторы - это ДАРМОЕДЫ! :ultra:
Под жопу всем им напинать! :-D
8 / 2
_Programmist_
14:20, 31.03.2010
От пользователя НихГди
зы Но почему-то программа у меня не запускается
Вот блин :-( Проверял на WinXP и Win7. У вас какая операционка?
зы: не запускается вообще, или вываливается с ошибкой? Или, может быть, вы запускаете ее сразу из архива? Если да - попробуйте распаковать архив куда-нибудь и оттуда запустить
3 / 0
НихГди
14:59, 31.03.2010
От пользователя _Programmist_
может быть, вы запускаете ее сразу из архива?

я,конечно может не компьютерный гуру,но все-таки не полный идиот :-D
От пользователя _Programmist_
У вас какая операционка?

ОС: Windows XP SP 3 версия 5.1 сборка 2600.xpsp_sp3_qfe.080423-1303
От пользователя _Programmist_
не запускается вообще

именно так,никаких ошибок не выдает
1 / 0
14:59, 31.03.2010
Снимаю шляпу перед Вами! :-) Вешь нужная и я думаю будет популярана. А то что е1 не может свой сервис доработать это все отмазки.
P.S.: на Win7 норма работает
5 / 0
19:17, 31.03.2010
Хорошая работа, если на отдельном хосте веб-сервис поднять, многим бы людям поддержка была.
5 / 0
Авторизуйтесь, чтобы принять участие в дискуссии.