в этой главе мы рассмотрим сетевую файловую систему (nfs - network file system), популярное приложение, которое предоставляет приложениям клиентов прозрачный доступ к файлам. краеугольным камнем nfs является sun rpc: вызов удаленной процедуры (remote procedure call), что мы и опишем в первую очередь.

программе клиента не требуется специальных средств, чтобы воспользоваться nfs. ядро определяет что файл находится на nfs сервере и автоматически генерирует rpc вызов, для того чтобы получить доступ к файлу.

мы не будем подробно рассматривать, как реализуется доступ к файлам, а рассмотрим, как при этом используются протоколы internet, особенно udp.

в большинстве случаев задачи сетевого программирования решаются путем написания программ приложений, которые вызывают функции, предоставляемые системой, чтобы осуществить конкретные сетевые операции. например, одна функция осуществляет активное открытие tcp, другая пассивное открытие tcp, третья посылает данные по tcp соединению, четвертая устанавливает конкретные опции протокола (включает tcp таймер "оставайся в живых") и так далее. в разделе "интерфейсы прикладного программирования" главы 1 мы упоминали, что существует два популярных набора функций для сетевого программирования (прикладной программный интерфейс, api), это сокеты и tli. программный интерфейс, используемый клиентом, и программный интерфейс, используемый сервером, могут отличаться, так же как и операционные системы, которые функционируют у клиента и сервера. именно коммуникационный и прикладной протоколы определяют, сможет ли конкретный клиент общаться с сервером. unix клиент, написанный на c, использующий сокеты в качестве программного интерфейса, и tcp - в качестве коммуникационного протокола, может общаться с сервером на мейнфрейме, написанным на cobolе с использованием других api и tcp, если оба хоста подключены к сети и оба имеют реализацию tcp/ip.

обычно клиент посылает серверу команды, а сервер отправляет клиенту отклики. все рассмотренные нами приложения, - ping, traceroute, демоны маршрутизации, клиенты и сервера dns, tftp, bootp, snmp, telnet, ftp, smtp - все построены именно таким образом.

rpc, вызов удаленной процедуры, реализует иной подход к сетевому программированию. программа клиента просто вызывает функции в программе сервера. так это решено с точки зрения программиста, однако в действительности имеет место следующая последовательность действий.

1. когда клиент вызывает удаленную процедуру, вызывается функция на локальном хосте, которая сгенерирована пакетом rpc. эта функция называется client stub. client stub упаковывает аргументы процедуры в сетевое сообщение и отправляет сообщение серверу.
2. server stub на хосте сервера получает сетевое сообщение. аргументы извлекаются из сетевого сообщения, и осуществляется вызов процедуры сервера, написанной прикладным программистом.
3. функция сервера возвращает управление server stubу, который, в свою очередь, принимает полученные значения, упаковывает их в сетевое сообщение и отправляет сообщение обратно к client stub.
4. client stub возвращает приложению клиента значения из сетевого сообщения.

сетевое программирование, использующее stubы и библиотечные rpc подпрограммы использует интерфейсы прикладного программирования api (сокеты или tli), однако пользовательские приложения (программа клиента и процедуры сервера, вызываемые клиентом) никогда не обращаются к api. приложению клиента достаточно вызывать процедуру сервера, при этом все детали реализации спрятаны пакетом rpc, client stubом и server stubом.

пакеты rpc имеют следующие положительные стороны.

• программирование становится легче, так как не приходится решать задачи сетевого программирования (а если и приходится, то совсем немного). прикладные программисты просто пишут программу клиента и процедуры сервера, которые вызывает клиент.
• если используется ненадежный протокол, такой как udp, все детали, а именно тайм-ауты и повторные передачи обрабатываются пакетом rpc. это, в свою очередь, упрощает пользовательское приложение.
• библиотека rpc обрабатывает необходимое преобразование аргументов и возвращаемых значений. например, если аргументы состоят из целых чисел и чисел с плавающей точкой, пакет rpc обработает все различия между представлением целых чисел и чисел с плавающей точкой на клиенте и сервере. благодаря этому упрощается реализация клиентов и серверов для функционирования в разнородных средах.

программирование rpc подробно описано в главе 18 [stevens 1990]. два наиболее популярных rpc пакета это sun rpc и rpc пакет в open software foundation's (osf) distributed computing environment (dce). мы рассмотрим, как осуществляется вызов процедуры, как выглядит возвращаемое сообщение и как это соотносится с пакетом sun rpc, так как именно этот пакет используется в сетевой файловой системе. версия 2 sun rpc описана в rfc 1057 [sun microsystems 1988a].

существует два вида sun rpc. одна версия построена с использованием api сокет и работает с tcp и udp. другая называется ti-rpc (независимо от транспорта - transport independent), построена с использованием tli api и работает с любыми транспортными уровнями, предоставляемыми ядром. с нашей точки зрения между ними нет никакой разницы, так как в этой главе мы рассматриваем только tcp и udp.

на рисунке 29.1 показан формат сообщения вызова процедуры rpc, с использованием udp.

рисунок 29.1 сообщения вызова процедуры rpc в формате udp датаграммы.

стандартные ip и udp заголовки показаны раньше (рисунок 3.1 и рисунок 11.2). все, что следует после udp заголовка, определяется пакетом rpc.

идентификатор транзакции (xid - transaction id) устанавливается клиентом и возвращается сервером. когда клиент получает отклик, он сравнивает xid, возвращенный сервером, с xid отправленного запроса. если они не совпадают, клиент отбрасывает сообщение и ожидает прихода следующего. каждый раз, когда клиент выдает новый rpc, он меняет xid. однако если клиент передает rpc повторно (если отклик не был получен), xid не меняется.

переменная call равна 0 для вызова и 1 для отклика. текущая версия rpc (rpc version) равна 2. три следующие переменные, номер программы (program number), номер версии (version number) и номер процедуры (procedure number), идентифицируют конкретную процедуру, которая должна быть вызвана на сервере.

полномочия (credentials) идентифицируют клиента. в некоторых примерах это поле остается незаполненным, а в других здесь можно встретить цифровой идентификатор пользователя и идентификатор группы к который он принадлежит. сервер может заглянуть в полномочия и решить, обработать ли запрос или нет. проверка (verifier) используется для защищенного rpc (secure rpc), которое использует des шифрование. несмотря на то, что поля полномочий и проверки это поля с переменной длиной, их длина передается как часть поля.

дальше следуют параметры процедуры. их формат зависит от того, как приложение определяет удаленную процедуру. как получатель (server stub) узнает размер параметров? так как используется udp, размер параметров можно рассчитать как размер udp датаграммы минус длина всех полей вплоть до поля проверки. когда вместо udp используется tcp, понятия фиксированной длины не существует, так как tcp это поток байтов без разделителей записей. в подобном случае, между tcp заголовком и xid появляется 4-байтовое поле длины, из которого приемник узнает длину rpc вызова в байтах. это позволяет, если необходимо, послать сообщение вызова rpc в нескольких tcp сегментах. (dns использует подобную технику; упражнение 4 главы 14.)

на рисунке 29.2 показан формат rpc отклика. он отправляется от server stub к client stub, когда удаленная процедура завершает свою работу.

рисунок 29.2 формат сообщения отклика процедуры rpc как udp датаграмма.

xid вызова просто копируется в xid отклика. в поле reply находится 1, по этому полю проводится различие между вызовом и откликом. поле статуса (status) содержит нулевое значение, если сообщение вызова было принято. (сообщение может быть отброшено, если номер версии rpc не равен 2 или если сервер не может аутентифицировать клиента.) поле проверки (verifier) используется в случае защищенного rpc, чтобы указать сервер.

в поле статуса приема (accept status) находится нулевое значение, если все нормально. ненулевое значение может указывать, например, на неверный номер версии или неверный номер процедуры. если вместо udp используется tcp, то, как и в случае сообщения вызова rpc, между tcp заголовком и xid посылается 4-байтовое поле длины.

представление внешних данных (xdr - external data representation) это стандарт, используемый для кодирования значений в rpc вызове и отклике сообщениях - полей заголовка rpc (xid, номер программы, статус приема и так далее), параметров процедуры и результатов процедуры. стандартный способ кодирования данных позволяет клиенту вызвать процедуру в системе с отличной архитектурой. xdr определен в rfc 1014 [sun microsystems 1987].

xdr определяет определенное количество типов данных и точный способ того, как они передаются в rpc сообщении (порядок битов, порядок байтов и так далее). отправитель должен построить rpc сообщение в xdr формате, тогда получатель конвертирует xdr формат в исходное представление. (в тот формат, который принят для его системы.) мы видим, например, на рисунках 29.1 и 29.2, что все целые значения, которые мы показали (xid, вызов, номер программы и так далее), это 4-байтовые целые числа. и действительно, все целые в xdr занимают 4 байта. xdr поддерживает и другие типы данных, включая целые без знака, логические, числа с плавающей точкой, массивы фиксированной длины, массивы переменной длины и структуры.

программы rpc сервера, содержащие удаленные процедуры, используют динамически назначаемые порты, а не заранее известные порты. это требует "регистрации" в какой-либо форме, для того чтобы постоянно иметь информацию, какая динамически назначаемый порт использует та или иная rpc программа. в sun rpc этот регистратор называется преобразователь портов (port mapper). (port mapper - это сервер, который конвертирует номера rpc программ в номера портов протоколов darpa. этот сервер обязательно должен быть запущен, чтобы можно было исполнить rpc вызов.)

термин "порт" (port) в названии происходит от номеров портов tcp и udp, характеристики семейства протоколов internet. так как ti-rpc работает поверх любых транспортных уровней, а не только поверх tcp и udp, название port mapper в системах, использующих ti-rpc (svr4 и solaris 2.2, например), было преобразовано в rpcbind. однако мы будем продолжать использовать более привычное - port mapper.

в действительности, сам преобразователь портов должен иметь заранее известный порт: udp порт 111 и tcp порт 111. преобразователь портов - это всего лишь программа rpc сервера. он имеет номер программы (100000), номер версии (2), tcp порт 111 и udp порт 111. серверы регистрируют друг друга в преобразователе портов, используя rpc вызовы, а клиенты запрашивают преобразователь портов, используя rpc вызовы. преобразователь портов предоставляет четыре процедуры сервера:

1. pmapproc_set. вызывается rpc сервером при старте, чтобы зарегистрировать номер программы, номер версии и протокол в преобразователе портов.
2. pmapproc_unset. вызывается сервером, чтобы удалить ранее зарегистрированное преобразование.
3. pmapproc_getport. вызывается rpc клиентом при старте, чтобы получить номер порта для заданного номера программы, номера версии и протокола.
4. pmapproc_dump. возвращает все пункты (номер программы, номер версии, протокол и номер порта) в базу данных преобразователя портов.

когда стартует программа сервер rpc и позже, когда она вызывается программой клиента rpc, осуществляются следующие шаги.

1. преобразователь портов должен стартовать первым, обычно при загрузке системы. при этом создается конечная точка tcp и осуществляется пассивное открытие tcp порта 111. также создается конечная точка udp, которая находится в ожидании, когда на udp порт 111 прибудет udp датаграмма.
2. при старте программа сервера rpc создает конечную точку tcp и конечную точку udp для каждой поддерживаемой версии программы. (программа rpc может поддерживать несколько версий. клиент указывает требуемую версию при вызове процедуры сервера.) динамически назначаемый номер порта закрепляется за каждой конечной точкой. (нет никакой разницы, одинаковые ли номера портов tcp и udp или разные.) сервер регистрирует каждую программу, версию, протокол и номер порта, осуществляя удаленной вызов процедуры преобразователя портов pmapproc_set.
3. когда стартует программа клиента rpc, она вызывает процедуру преобразователя портов pmapproc_getport, чтобы получить динамически назначаемый номер порта для заданной программы, версии и протокола.
4. клиент отправляет сообщение вызова rpc на номер порта, полученный в пункте 3. если используется udp, клиент просто посылает udp датаграмму, содержащую сообщение вызова rpc (рисунок 29.1), на номер udp порта сервера. в ответ сервер отправляет udp датаграмму, содержащую сообщение rpc отклика (рисунок 29.2). если используется tcp, клиент осуществляет активное открытие на номер tcp порта сервера и затем посылает сообщение вызова rpc по соединению. сервер отвечает сообщением отклика rpc по соединению.

программа rpcinfo(8) печатает все текущие настройки преобразователя портов. (здесь происходит вызов процедуры преобразователя портов pmapproc_dump.) ниже показан обычный вывод:

sun % /usr/etc/rpcinfo -p
program    vers    proto    port
  100005       1      tcp      702   mountd            демон монтирования nfs
  100005       1      udp      699   mountd
  100005       2      tcp      702   mountd
  100005       2      udp      699   mountd

  100003       2      udp     2049   nfs               сам nfs

  100021       1      tcp      709   nlockmgr          менеджер блокирования nfs
  100021       1      udp     1036   nlockmgr
  100021       2      tcp      721   nlockmgr
  100021       2      udp     1039   nlockmgr
  100021       3      tcp      713   nlockmgr
  100021       3      udp     1037   nlockmgr

мы видим, что некоторые программы поддерживают несколько версий, и каждая комбинация номера программы, номера версии и протокола имеет свою собственную раскладку номеров портов, обслуживаемую преобразователем портов.

доступ к обеим версиям монтирующего демона можно получить через один и тот же номер tcp порта (702) и один и тот же номер udp порта (699), однако каждая версия блокирующего менеджера имеет свой собственный номер порта.

nfs предоставляет клиентам прозрачный доступ к файлам и файловой системе сервера. это отличается от ftp (глава 27), который обеспечивает передачу файлов. с помощью ftp осуществляется полное копирование файла. nfs осуществляет доступ только к тем частям файла, к которым обратился процесс, и основное достоинство nfs в том, что он делает этот доступ прозрачным. это означает, что любое приложение клиента, которое может работать с локальным файлом, с таким же успехом может работать и с nfs файлом, без каких либо модификаций самой программы.

nfs это приложение клиент-сервер, построенное с использованием sun rpc. nfs клиенты получают доступ к файлам на nfs сервере путем отправки rpc запросов на сервер. это может быть реализовано с использованием обычных пользовательских процессов - а именно, nfs клиент может быть пользовательским процессом, который осуществляет конкретные rpc вызовы на сервер, который так же может быть пользовательским процессом. однако, nfs обычно реализуется иначе, это делается по двум причинам. во-первых, доступ к nfs файлам должен быть прозрачным для клиента. поэтому, вызовы nfs клиента осуществляются операционной системой клиента от имени пользовательского процесса клиента. во-вторых, nfs сервера реализованы внутри операционной системы для повышения эффективности работы сервера. если бы nfs сервер являлся пользовательским процессом, каждый запрос клиента и отклик сервера (включая данные, которые будут считаны или записаны) должен пройти через разделитель между ядром и пользовательским процессом, что вообще довольно дорогое удовольствие.

в этом разделе мы рассмотрим версию 2 nfs, как она документирована в rfc 1094 [sun microsystems 1988b]. лучшее описание sun rpc, xdr и nfs дано в [x/open 1991]. подробности использования и администрирования nfs приведены в [stern 1991]. спецификации версии 3 протокола nfs были реализованы в 1993 году, о чем мы поговорим в разделе "nfs версия 3" этой главы.

на рисунке 29.3 показаны типичные настройки nfs клиента и nfs сервера. на этом рисунке необходимо обратить внимание на следующее.

большинство unix хостов может функционировать как nfs клиент и как nfs сервер, или как и то и другое одновременно. большинство pc реализаций (ms-dos) имеют только реализации nfs клиента. большинство ibm мейнфреймов предоставляет только функции nfs сервера.

nfs в действительности - это нечто большее, чем просто nfs протокол. на рисунке 29.4 показаны различные программы rpc, которые используются с nfs.

рисунок 29.4 различные rpc программы, используемые в nfs.

версии, которые мы показали на этом рисунке в виде единиц, найдены в таких системах как sunos 4.1.3. новые реализации предоставляют более новые версии некоторых программ. solaris 2.2, например, также поддерживает версии 3 и 4 преобразователя портов и версию 2 демона mount. svr4 также поддерживает версию 3 преобразователя портов.

демон монтирования вызывается на хосте nfs клиента, перед тем как клиент может получить доступ к файловой системе сервера. мы опишем этот процесс ниже.

менеджер блокирования и монитор статуса позволяют клиенту заблокировать часть файлов, которые находятся на nfs сервере. эти две программы не зависимы от протокола nfs, потому что блокирование требует идентификации клиента и на хосте клиента, и на сервере, а nfs сам по себе "безразличен". (ниже мы скажем о безразличности nfs более подробно.) главы 9, 10 и 11 [x/open 1991] документируют процедуры, которые используются менеджером блокирования и монитором статуса для блокирования в nfs.

одна из основ nfs реализуется описателями файлов. для обращения к файлу или директории на сервере объекта используется opaque. термин opaque обозначает, что сервер создает описатель файла, передает его обратно клиенту, который клиент затем использует при обращении к файлу. клиент никогда не просматривает содержимое описателя файла - его содержимое представляет интерес только для сервера.

nfs клиент получает описатель файла каждый раз когда открывает файл, который в действительности находится на nfs сервере. когда nfs клиент читает или пишет в этот файл (по поручению пользовательского процесса), описатель файла передается обратно серверу. это указывает на то, что доступ к файлу был осуществлен.

обычно пользовательский процесс не работает с описателями файлов. обмен описателями файлов осуществляют nfs клиент и nfs сервер. в версии 2 nfs описатель файла занимает 32 байта, а в версии 3 он вырос до 64 байт.

unix серверы обычно хранят в описателе файла следующую информацию: идентификатор файловой системы (major и minor номера устройства файловой системы), номер инода (i-node) (уникальный номер внутри файловой системы), номер поколения инода (номер, который изменяется каждый раз, когда инод повторно используется для другого файла).

клиент использует nfs протокол монтирования, чтобы смонтировать файловую систему сервера, перед тем как получить доступ к nfs файлам. обычно это происходит при загрузке клиента. в результате клиент получает описатель файла файловой системы сервера.

на рисунке 29.5 описана последовательность действий unix клиента при исполнении команды mount(8).

рисунок 29.5 протокол монтирования, используемый unix командой mount.

при этом осуществляются следующие шаги.

1. при загрузке сервера на нем стартует преобразователь портов.
2. после преобразователя портов на сервере стартует демон монтирования (mountd). он создает конечную точку tcp и конечную точку udp, а также назначает каждой из них динамически назначаемый номер порта. затем он регистрирует эти номера у преобразователя портов.
3. клиент исполняется команду mount, которая выдает rpc вызов на преобразователь портов сервера, чтобы получить номер порта от демона монтирования на сервере. для обмена между клиентом и преобразователем портов могут быть использованы и tcp и udp, однако обычно используется udp.
4. преобразователь портов сообщает номер порта.
5. команда mount выдает rpc вызов демону монтирования, чтобы смонтировать файловую систему сервера. и снова может быть использован как tcp, так и udp, однако обычно используется udp. теперь сервер может проверить "годность" клиента основываясь на его ip адресе и номере порта, чтобы убедиться, можно ли этому клиенту смонтировать указанную файловую систему.
6. демон монтирования откликается описателем файла указанной файловой системы.
7. команда mount клиента выдает системный вызов mount, чтобы связать описатель файла, полученный в шаге 5, с локальной точкой монтирования на хосте клиента. описатель файла хранится в коде nfs клиента, и с этого момента любое обращение пользовательских процессов к файлам на файловой системе сервера будет использовать описатель файла как стартовую точку.

подобная реализация отдает весь процесс монтирования, кроме системного вызова mount на клиенте, пользовательским процессам, а не ядру. три программы, которые мы показали - команда mount, преобразователь портов и демон монтирования - пользовательские процессы.

в этом примере на хосте sun (nfs клиент) была исполнена команда

эта команда монтирует директорию /usr на хосте bsdi (nfs сервер) как локальную файловую систему /nfs/bsdi/usr. на рисунке 29.6 показан результат.

рисунок 29.6 монтирование директории bsdi:/usr как /nfs/bsdi/usr на хосте sun.

после чего при обращении к файлу /nfs/bsdi/usr/rstevens/hello.c на клиенте sun, происходит обращение к файлу /usr/rstevens/hello.c на сервере bsdi.

nfs сервер предоставляет 15 процедур, которые мы сейчас опишем. (числа, которые использованные при описании, не совпадают с номерами nfs процедур, так как мы сгруппировали их по функциональному признаку.) несмотря на то что nfs разрабатывалась таким образом, чтобы работать между различными операционными системами, а не только между unix системами, некоторые из процедур основаны именно на unix функционировании, что, в свою очередь, может не поддерживаться другими операционными системами (например, жесткие линки, символические линки, групповое пользование, права доступа на исполнение и так далее). глава 4 [stevens 1992] содержит дополнительную информацию о характеристиках файловых систем, некоторыми из которых пользуется nfs.

1. getattr. возвращает атрибуты файлов: тип файла (обычный файл, директория и так далее), права доступа, размер файла, владельца файла, время последнего обращения и так далее.
2. setattr. устанавливает атрибуты файла. установлен может быть только определенный набор атрибутов: права доступа, владелец, групповое владение, размер, время последнего обращения и время последней модификации.
3. statfs. возвращает статус файловой системы: размер свободного пространства, оптимальный размер для передачи и так далее. используется, например, unix командой df.
4. lookup. "оценивает" файл. эта процедура вызывается клиентом каждый раз, когда пользовательский процесс открывает файл, который находится на nfs сервере. возвращается описатель файла, вместе с атрибутами файла.
5. read. читает из файла. клиент указывает описатель файла, начальное смещение в байтах и максимальное количество байтов, которое необходимо считать (до 8192).
6. write. записывает в файл. клиент указывает описатель файла, начальное смещение в байтах, количество байт, которое необходимо записать, и данные, которые необходимо записать.

   требуется, чтобы nfs записи были синхронными (с ожиданием). сервер не может ответить ok до тех пор, пока данные не были успешно записаны (и любая другая информация о файле, которая должна быть обновлена) на диск.

7. create. создает файл.
8. remove. удаляет файл.
9. rename. переименовывает файл.
10. link. делает жесткий линк на файл. жесткий линк это unix концепция, которая определяет, что конкретный файл на диске может иметь любое количество точек входа (имен, которые также называются жесткими линками), которые указывают на этот файл.
11. symlink. создает символический линк на файл. символический линк это файл, который содержит имя другого файла. большинство операций, которые осуществляются над символическим линком (например, открытие), в действительности совершаются с тем файлом, на котороый указывает символический линк.
12. readlink. чтение символического линка возвращает имя файла, на который указывает символический линк.
13. mkdir. создает директорию.
14. rmdir. удаляет директорию.
15. readdir. читает директорию. используется, например, unix командой ls.

в действительности, приведенные имена процедур начинаются с префикса nfsproc_, который мы опустили.

nfs был исходно написан, чтобы использовать udp, и эту возможность предоставляют все производители. однако, более новые реализации, также поддерживают tcp. поддержка tcp используется для работы в глобальных сетях, которые становится все быстрее. поэтому использование nfs в настоящее время уже не ограничено локальными сетями.

границы между локальными и глобальными сетями стираются, и все это происходит очень быстро. времена возврата меняются в очень широком диапазоне, и все чаще возникает переполнение. эти характеристики глобальных сетей приводят к тому, что все чаще в них используются алгоритмы, которые мы рассматривали для tcp - медленный старт и избежание переполнения. так как udp не предоставляет ничего похожего на эти алгоритмы, то они или им подобные должны быть встроены в nfs клиент и сервер, иначе необходимо использовать tcp.

реализация nfs berkeley net/2 поддерживает как udp, так и tcp. [macklem 1991] описывает эту реализацию. давайте рассмотрим, чем отличается использование nfs при работе поверх tcp.

1. когда сервер загружается, он запускает nfs сервер, который осуществляет активное открытие на tcp порт 2049, ожидая прихода запроса на соединение от клиента. это обычно делается в дополнение к обычному nfs udp, который ожидает входящие датаграммы на udp порте 2049.
2. когда клиент монтирует файловую систему сервера с использованием tcp, он осуществляет активное открытие на tcp порт 2049 на сервере. при этом устанавливается tcp соединение между клиентом и сервером для этой файловой системы. если тот же самый клиент монтирует еще одну файловую систему на том же самом сервере, создается еще одно tcp соединение.
3. и клиент, и сервер устанавливают tcp опцию "оставайся в живых" на своих концах соединения (глава 23). это позволяет определить момент выхода из строя или перезагрузки того или иного участника обмена.
4. все приложения на клиенте, которые используют файловую систему сервера, делят одно и то же tcp соединение для этой файловой системы. например, если была на рисунке 29.6, бы еще одна директория на bsdi, с именем smith, ниже директории /usr, обращения к файлам в /nfs/bsdi/usr/rstevens и /nfs/bsdi/usr/smith делили бы одно и то же tcp соединение.
5. если клиент определяет, что сервер вышел из строя или перезагрузился (после получения tcp ошибки "соединение закрыто по тайм-ауту" или "соединение закрыто хостом"), он старается повторно подсоединиться к серверу. клиент осуществляет еще одно активное открытие, чтобы повторно установить tcp соединение для этой файловой системы. любой запрос от клиента, для которого отработан тайм-аут на предыдущем соединении, повторно выдается на новое соединение.
6. если клиент вышел из строя, то же происходит и с приложениями, которые работали до выхода из строя. когда клиент перезагружается, он, возможно, повторно смонтирует файловую систему сервера с использованием tcp, причем будет использовано другое tcp соединение с сервером. предыдущее соединение между клиентом и сервером для этой файловой системы находится в полуоткрытом состоянии (сервер думает, что оно все еще открыто), однако так как сервер установил опцию "оставайся в живых", это полуоткрытое соединение будет закрыто, когда tcp сервер пошлет следующую пробу "оставайся в живых".

со временем и другие производители планируют начать поддержку nfs поверх tcp.

давайте воспользуемся tcpdump, чтобы посмотреть, какие nfs процедуры привлекаются клиентом для обычных операций с файлом. когда tcpdump определяет, что udp датаграмма содержит rpc вызов (call равен 0 на рисунке 29.1) с портом назначения 2049, он декодирует датаграмму как nfs запрос. точно так же, если udp датаграмма содержит rpc отклик (reply равен 1 на рисунке 29.2) с портом источника равным 2049, он декодирует датаграмму как nfs отклик.

в первом примере мы скопируем файл, находиться на nfs сервере, на терминал с использованием команды cat(1):

sun % cat /nfs/bsdi/usr/rstevens/hello.c         копирование файла на терминал
main()
{
               printf ("hello, world\n");
}

файловая система /nfs/bsdi/usr на хосте sun (nfs клиент) в действительности является файловой системой /usr на хосте bsdi (nfs сервер), как показано на рисунке 29.6. ядро sun определяет это, когда cat открывает файл и использует nfs для доступа к файлу. на рисунке 29.7 показан вывод команды tcpdump.

1  0.0                   sun.7aa6 > bsdi.nfs: 104 getattr
2  0.003587 (0.0036)    bsdi.nfs > sun.7aa6: reply ok 96

3  0.005390 (0.0018)    sun.7aa7 > bsdi.nfs: 116 lookup "rstevens"
4  0.009570 (0.0042)    bsdi.nfs > sun.7aa7: reply ok 128

5  0.011413 (0.0018)    sun.7aa8 > bsdi.nfs: 116 lookup "hello.c"
6  0.015512 (0.0041)    bsdi.nfs > sun.7aa8: reply ok 128

7  0.018843 (0.0033)    sun.7aa9 > bsdi.nfs: 104 getattr
8  0.022377 (0.0035)    bsdi.nfs > sun.7aa9: reply ok 96

9  0.027621 (0.0052)    sun.7aaa > bsdi.nfs: 116 read 1024 bytes @ 0
10  0.032170 (0.0045)    bsdi.nfs > sun.7aaa: reply ok 140

рисунок 29.7 функционирование nfs при чтении файла.

команда tcpdump декодирует nfs запрос или отклик, также она печатает поле xid для клиента, вместо номера порта. поле xid в строках 1 и 2 равно 0x7aa6.

имя файла /nfs/bsdi/usr/rstevens/hello.c обрабатывается функцией открытия в ядре клиента по одному элементу имени за раз. когда функция открытия достигает /nfs/bsdi/usr, она определяет, что это точка монтирования файловой системы nfs.

в строке 1 клиент вызывает процедуру getattr, чтобы получить атрибуты директории сервера, которую смонтировал клиент (/usr). этот rpc запрос содержит 104 байта данных, помимо ip и udp заголовков. отклик в строке 2 возвращает ok и содержит 96 байт данных, помимо ip и udp заголовков. мы видим на этом рисунке, что минимальное nfs сообщение содержит примерно 100 байт данных.

в строке 3 клиент вызывает процедуру lookup для файла rstevens и получает отклик ok в строке 4. lookup указывает имя файла rstevens и описатель файла, который был сохранен ядром, когда монтировалась удаленная файловая система. отклик содержит новый описатель файла, который используется в следующем шаге.

в строке 5 клиент осуществляет lookup файла hello.c с использованием описателя файла из строки 4. он получает другой описатель файла в строке 6. этот новый описатель файла как раз то, что клиент использует в строках 7 и 9, чтобы обратиться к файлу /nfs/bsdi/usr/rstevens/hello.c. мы видим, что клиент осуществляет lookup для каждого компонента имени в пути к открываемому файлу.

в строке 7 клиент еще раз исполняет getattr, затем следует read в строке 9. клиент запрашивает 1024 байта, начиная со смещения равного 0, однако получает данных меньше чем 1024 байта. (после вычитания размеров rpc полей и других значений, возвращенных процедурой read, в строке 10 возвращаются 38 байт данных. это как раз размер файла hello.c.)

в этом примере пользовательский процесс ничего не знает об этих nfs запросах и откликах, которые осуществляются ядром. приложение всего лишь вызывает функцию открытия ядра, которая вызывает обмен 3 запросами и 3 откликами (строки 1-6), а затем вызывает функцию чтение ядра, которая вызывает 2 запроса и 2 отклика (строки 7-10). для приложения клиента, файл, находящийся на nfs сервере, прозрачен.

в качестве еще одного примера сменим рабочую директорию на директорию, которая находится на nfs сервере, а затем создадим новую директорию:

sun % cd /nfs/bsdi/usr/rstevens             меняем рабочую директорию
sun % mkdir mail                            создаем директорию

на рисунке 29.8 показан вывод команды tcpdump.

1   0.0                    sun.7ad2 > bsdi.nfs: 104 getattr
2   0.004912 ( 0.0049)    bsdi.nfs > sun.7ad2: reply ok 96

3   0.007266 ( 0.0024)    sun.7ad3 > bsdi.nfs: 104 getattr
4   0.010846 ( 0.0036)    bsdi.nfs > sun.7ad3: reply ok 96

5  35.769875 (35.7590)    sun.7ad4 > bsdi.nfs: 104 getattr
6  35.773432 ( 0.0036)    bsdi.nfs > sun.7ad4: reply ok 96

7  35.775236 ( 0.0018)    sun.7ad5 > bsdi.nfs: 112 lookup "mail"
8  35.780914 ( 0.0057)    bsdi.nfs > sun.7ad5: reply ok 28

9  35.782339 ( 0.0014)    sun.7ad6 > bsdi.nfs: 144 mkdir "mail"
10  35.992354 ( 0.2100)    bsdi.nfs > sun.7ad6: reply ok 128

рисунок 29.8 функционирование nfs при смене директории (cd) на nfs директорию, а затем создание директории (mkdir). 

при смене директории клиент вызывает процедуру getattr дважды (строки 1-4). когда мы создаем новую директорию, клиент вызывает процедуру getattr (строки 5 и 6), затем lookup (строки 7 и 8, чтобы проверить, что такой директории не существует), затем mkdir, чтобы создать директорию (строки 9 и 10). отклик ok в строке 8 не означает, что директория существует. он просто означает, что процедура вернула какое-то значение. tcpdump не интерпретирует значение, возвращаемое nfs процедурами. команда просто печатает ok и количество байт данных в отклике.

одна из характеристик nfs (критики nfs называют это бородавкой, а не характеристикой) заключается в том, что nfs сервер безразличен. сервер не заботится о том, какие клиенты получают доступ и к каким файлам. заметьте, что в списке nfs процедур, показанных ранее, нет процедуры открытия или закрытия. процедура lookup напоминает открытие, однако сервер никогда не знает, осуществил ли клиент обращение к файлу, после того как был сделан lookup.

причина такого "безразличного поведения" заключается в том, чтобы упростить восстановление после выхода из строя сервера, после того как он сломался и перезагрузился.

в следующем примере мы читаем файл с nfs сервера, когда сервер выходит из строя и перезагружается. это покажет как "безразличность" сервера позволяет, клиенту "не знать" о том, что сервер вышел из строя. все то время, пока сервер сломался и перезагружается, клиент не знает о проблеме, и приложение клиента работает так же, как и раньше.

на клиенте sun мы стартовали cat с очень большим файлом в качестве аргумента (/usr/share/lib/termcap на nfs сервере svr4), отсоединили ethernet кабель в процессе передачи, выключили и перезагрузили сервер и затем снова подсоединили кабель. клиент был сконфигурирован таким образом, чтобы читать 1024 байта за одно nfs чтение. на рисунке 29.9 показан вывод tcpdump.

строки 1-10 соответствуют открытию файла клиентом. эта операция напоминает ту, что показана на рисунке 29.7. в строке 11 мы видим первое чтение (read) из файла 1024-х байт данных; отклик возвратился в строке 12. это продолжается до строки 129 (чтение read по 1024 байта и затем отклик ok).

в строках 130 и 131 мы видим два запроса, которые отработаны по тайм-ауту и повторно переданы в строках 132 и 133. первый вопрос: мы видим два запроса на чтение, один начинается со смещения 65536, а другой начинается со смещения 73728, почему? ядро клиента определило, что приложение клиента осуществляет последовательное считывание, и постаралось получить блоки данных заранее. (большинство unix ядер осуществляют это чтение вперед (read-ahead).) ядро клиента также запустило несколько nfs демонов блочного ввода-вывода (i/o) (biod процессы), которые стараются сгенерировать несколько rpc запросов от имени клиента. один демон считывает 8192 байта, начиная с 65536 (в 1024-байтных цепочках), а другие осуществляют чтение вперед по 8192 байта, начиная с 73728.

повторные передачи клиента появляются в строках 130-168. в строке 169 мы видим, что сервер перезагрузился, и послал arp запрос перед тем, как откликнуться на nfs запрос клиента из строки 168. отклик на строку 168 посылается в строке 171. запросы клиента на чтение (read) продолжаются.

  1    0.0                    sun.7ade > svr4.nfs: 104 getattr
  2    0.007653 ( 0.0077)    svr4.nfs > sun.7ade: reply ok 96

  3    0.009041 ( 0.0014)    sun.7adf > svr4.nfs: 116 lookup "share"
  4    0.017237 ( 0.0082)    svr4.nfs > sun.7adf: reply ok 128

  5    0.018518 ( 0.0013)    sun.7ae0 > svr4.nfs: 112 lookup "lib"
  6    0.026802 ( 0.0083)    svr4.nfs > sun.7ae0: reply ok 128

  7    0.028096 ( 0.0013)    sun.7ae1 > svr4.nfs: 116 lookup "termcap"
  8    0.036434 ( 0.0083)    svr4.nfs > sun.7ae1: reply ok 128

  9    0.038060 ( 0.0016)    sun.7ae2 > svr4.nfs: 104 getattr
10    0.045821 ( 0.0078)    svr4.nfs > sun.7ae2: reply ok 96

11    0.050984 ( 0.0052)    sun.7ae3 > svr4.nfs: 116 read 1024 bytes @ 0
12    0.084995 ( 0.0340)    svr4.nfs > sun.7ae3: reply ok 1124

                             считывание

128    3.430313 ( 0.0013)    sun.7b22 > svr4.nfs: 116 read 1024 bytes @ 64512
129    3.441828 ( 0.0115)    svr4.nfs > sun.7b22: reply ok 1124

130    4.125031 ( 0.6832)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
131    4.868593 ( 0.7436)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

132    4.993021 ( 0.1244)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
133    5.732217 ( 0.7392)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

134    6.732084 ( 0.9999)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
135    7.472098 ( 0.7400)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

136   10.211964 ( 2.7399)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
137   10.951960 ( 0.7400)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

138   17.171767 ( 6.2198)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
139   17.911762 ( 0.7400)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

140   31.092136 (13.1804)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
141   31.831432 ( 0.7393)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

142   51.090854 (19.2594)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
143   51.830939 ( 0.7401)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

144   71.090305 (19.2594)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536
145   71.830155 ( 0.7398)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728

                             повторные передачи

167  291.824285 ( 0.7400)    sun.7b24 > svr4.nfs: 116 read 1024 bytes @ 73728
168  311.083676 (19.2594)    sun.7b23 > svr4.nfs: 116 read 1024 bytes @ 65536

                             сервер перезагрузился

169  311.149476 ( 0.0658)    arp who-has sun tell svr4
170  311.150004 ( 0.0005)    arp reply sun is-at 8:0:20:3:f6:42

171  311.154852 ( 0.0048)    svr4.nfs > sun.7b23: reply ok 1124

172  311.156671 ( 0.0018)    sun.7b25 > svr4.nfs: 116 read 1024 bytes @ 66560
173  311.168926 ( 0.0123)    svr4.nfs > sun.7b25: reply ok 1124
                             считывание

рисунок 29.9 считывание файла клиентом, когда nfs сервер вышел из строя и перезагрузился.

приложение клиента никогда не узнает, что сервер выходил из строя и перезагружался, за исключением того, что между строками 129 и 171 была 5-минутная пауза, таким образом, выход из строя сервера прозрачен для клиента.

чтобы оценить продолжительность тайм-аутов при повторных передачах в этом примере, представьте, что существуют два демона клиента, каждый со своими собственными тайм-аутами. интервалы для первого демона (читающего со смещения 65536) примерно следующие (округлено до двух знаков после запятой): 0,68; 0,87; 1,74; 3,48; 6,96; 13,92; 20,0; 20,0; 20,0 и так далее. интервалы для второго демона (читающего со смещения 73728) точно такие же. это означает, что эти nfs клиенты используют тайм-ауты, которые кратны 0,875 секунды с верхним пределом равным 20 секундам. после каждого тайм-аута интервал повторной передачи удваивается: 0,875; 1,75; 3,5; 7,0 и 14,0.

сколько времени клиент будет осуществлять повторные передачи? клиент имеет две опции, которые могут повлиять на это. во-первых, если файловая система сервера смонтирована жестко (hard) , клиент будет повторно передавать вечно, однако если файловая система сервера смонтирована мягко (soft) , клиент прекратит свои попытки после фиксированного количества повторных передач. также, в случае жесткого монтирования клиент имеет опцию, позволяющую пользователю прервать неудачные повторные передачи или не прерывать. если при монтировании файловой системы сервера, хост клиента указывает что прервать можно, и если мы не хотим ждать 5 минут, пока сервер перезагрузится после выхода из строя, мы можем ввести символ прерывания, чтобы прекратить работу приложения клиента.

rpc процедуры могут быть исполнены сервером несколько раз, но при этом все равно возвращают тот же самый результат. например, процедура чтения nfs. как мы видели на рисунке 29.9, клиент просто повторно выдает вызов read до тех пор, пока он получает отклик. в нашем примере причина повторной передачи была в том, что сервер вышел из строя. если сервер не вышел из строя, а сообщения, содержащие rpc отклики, были потеряны (так как udp ненадежный протокол), клиент просто повторно передает, и сервер снова осуществляет то же самое чтение (read). та же самая часть того же самого файла считывается снова и посылается клиенту.

это работает, потому что каждый запрос на чтение read содержит начальное смещение. если бы nfs процедура попросила сервер считать следующие n байт файла, это бы не сработало. если бы сервер не был безразличным (это значение наоборот к безразличности), и отклик потерян, а клиент повторно выдает read для следующих n байт, результат будет отличаться. именно поэтому процедуры nfs read и write имеют начальное смещение. именно клиент поддерживает состояние (текущее смещение для каждого файла), а не сервер.

к несчастью, не все операции с файловыми системами можно исполнить несколько раз. например, представьте себе следующие шаги: клиент nfs выдает запрос remove, чтобы удалить файл; nfs сервер удаляет файл и отвечает ok; отклик сервера потерян; nfs клиент отрабатывает тайм-аут и повторно передает запрос; nfs сервер не может найти файл и возвращает ошибку; приложение клиента получает ошибку, сообщающую о том, что файл не существует. эта ошибка возвращается приложению клиента, и эта ошибка несет неверную информацию - файл не существовал и был удален.

ниже приведен список nfs процедур, которые можно исполнить несколько раз: getattr, statfs, lookup, read, write, readlink и readdir. процедуры, которые нельзя исполнить несколько раз: create, remove, rename, link, symlink, mkdir и rmdir. setattr обычно исполняется несколько раз, если только она не была использована для того, чтобы обрезать файл.

так как в случае использования udp всегда могут появиться потерянные отклики, nfs сервера должны иметь способ обработать операции, которые нельзя исполнять несколько раз. большинство серверов имеют кэш последних откликов, в котором они хранят последние принятые отклики для подобных операций. каждый раз, когда сервер получает запрос, он, во-первых, просматривает свой кэш, и если найдено совпадение, возвращает предыдущий отклик, вместо того чтобы вызывать nfs процедуру снова. [juszczak 1989] описывает детали этих типов кэша.

подобный подход к процедурам на серверах применяется ко всем приложениям, основанным на udp, а не только nfs. dns, например, предоставляет сервис, безболезненно используемый несколько раз. dns сервер может осуществить запрос разборщика любое количество раз, что не приведет к отрицательным результатам (может быть, кроме того, что будут заняты сетевые ресурсы).

в течение 1994 года были выпущены спецификации для версии 3 протокола nfs [sun microsystems 1993]. реализации, как ожидается, станут доступными в течение 1994 года.

здесь вкратце описаны основные различия между версиями 2 и 3. мы будем называть их v2 и v3.

1. описатели файлов в v2 это массив фиксированного размера - 32 байта. в v3 это массив переменного размера с размером до 64 байт. массив переменной длины в xdr определяется 4-байтным счетчиком, за которым следуют реальные байты. это уменьшает размер описателя файла в таких реализациях, как, например, unix, где требуется всего около 12 байт, однако позволяет не-unix реализациям обмениваться дополнительной информацией.
2. v2 ограничивает количество байт на процедуры read или write rpc размером 8192 байта. это ограничение не действует в v3, что, в свою очередь, означает, что с использованием udp ограничение будет только в размере ip датаграммы (65535 байт). это позволяет использовать большие пакеты при чтении и записи в быстрых сетях.
3. размеры файлов и начальное смещение байтов для процедур read и write расширены с 32 до 64 бит, что позволяет работать с файлами большего размера.
4. атрибуты файла возвращаются в каждом вызове, который может повлиять на атрибуты. это уменьшает количество вызовов getattr, требуемых клиентом.
5. записи (write) могут быть асинхронными, тогда как в v2 они должны были быть синхронными. это может улучшить производительность процедуры write.
6. одна процедура была удалена (statfs) и семь были добавлены: access (проверка прав доступа к файлу), mknod (создание специального файла unix), readdirplus (возвращает имена файлов в директории вместе с их атрибутами), fsinfo (возвращает статистическую информацию о файловой системе), fsstat (возвращает динамическую информацию о файловой системе), pathconf (возвращает posix.1 информацию о файле) и commit (передает ранее сделанные асинхронные записи на постоянное хранение).

rpc это способ построить приложение клиент-сервер таким образом, что клиент просто вызывает процедуры на сервере. все сетевые детали спрятаны в stubах клиента и сервера, которые генерируются для приложений пакетом rpc и в подпрограммах библиотеки rpc. мы показали формат rpc сообщений вызова и отклика и упомянули, что xdr используется, чтобы кодировать значения, что позволяет rpc клиентам и серверам работать на машинах с различной архитектурой.

одно из наиболее широко используемых приложений rpc это sun nfs, протокол доступа к разнородным файлам, который широко используется на хостах практически всех размеров. мы рассмотрели nfs и то, как он использует udp или tcp. в протоколе nfs версии 2 (nfs version 2) определено 15 процедур.

доступ клиента к nfs серверу начинается с протокола монтирования, после чего клиенту возвращается описатель файла. затем клиент может получить доступ к файлам в файловой системе сервера с использованием этого описателя файла. имена файлов просматриваются на сервере по одному элементу имени за раз, при этом для каждого элемента возвращается новый описатель файла. конечный результат это описатель того файла, к которому было осуществлено обращение, и который используется при последовательных чтениях и записях.

nfs старается сделать все свои процедуры независимыми от количества исполнений таким образом, чтобы клиент мог просто повторно выдать запрос, если отклик был потерян. мы видели примеры этого: в случае, когда клиент читал файл, пока сервер вышел из строя и перезагружался. 

упражнения

1. на рисунке 29.7 мы видели, что tcpdump интерпретирует пакеты как nfs запросы и отклики, и при этом печатает xid. может ли tcpdump сделать это для любых rpc запросов или откликов?
2. как вы думаете, почему в unix системах программа rpc сервера использует динамически назначаемые порты, а не заранее известные?
3. rpc клиент вызвал две процедуры сервера. первая процедура потребовалось на исполнение 5 секунд, а второй - 1 секунда. клиент имеет тайм-аут равный 4 секундам. нарисуйте временную диаграмму того, чем обмениваются клиент и сервер. (представьте, что на прохождение сообщения от клиента к серверу и наоборот время не тратится.)
4. что произойдет в примере на рисунке 29.9, если пока nfs сервер был выключен, его ethernet плата была удалена?
5. когда сервер перезагрузился на рисунке 29.9, он обрабатывал запрос, начинающийся на смещении 65536 (строки 168 и 171), а затем обрабатывал следующий запрос, начинающийся со смещения 66560 (строки 172 и 173). что произойдет с запросом, начинающимся со смещением 73728 (строка 167)?
6. когда мы описывали независимые от количества исполнений nfs процедуры, то показали пример отклика remove, который потерялся в сети. что произойдет в этом случае, если используется tcp вместо udp?
7. если nfs сервер использует динамически назначаемый порт вместо порта 2049, что произойдет с nfs клиентом, когда сервер выйдет из строя и перезагрузится?
8. номеров зарезервированных портов (глава 1, раздел "номера портов") очень-очень мало, их максимум 1023 на хост. если nfs сервер требует, чтобы его клиенты имели зарезервированные порты (что обычно так и есть), и nfs клиент, использующий tcp, монтирует n файловых систем на n различных серверах, необходимо ли клиенту иметь различные зарезервированные номера портов для каждого соединения?